WO2018174581A1 - 전자 장치의 화이트 밸런스 기능 제어 방법 및 장치 - Google Patents

전자 장치의 화이트 밸런스 기능 제어 방법 및 장치 Download PDF

Info

Publication number
WO2018174581A1
WO2018174581A1 PCT/KR2018/003333 KR2018003333W WO2018174581A1 WO 2018174581 A1 WO2018174581 A1 WO 2018174581A1 KR 2018003333 W KR2018003333 W KR 2018003333W WO 2018174581 A1 WO2018174581 A1 WO 2018174581A1
Authority
WO
WIPO (PCT)
Prior art keywords
processor
white balance
attribute
ratio
image
Prior art date
Application number
PCT/KR2018/003333
Other languages
English (en)
French (fr)
Inventor
석진근
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to US16/497,224 priority Critical patent/US11025876B2/en
Publication of WO2018174581A1 publication Critical patent/WO2018174581A1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00—Details of colour television systems
    • H04N9/64—Circuits for processing colour signals
    • H04N9/73—Colour balance circuits, e.g. white balance circuits or colour temperature control
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/61—Control of cameras or camera modules based on recognised objects
    • H04N23/611—Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161—Detection; Localisation; Normalisation
    • G06V40/162—Detection; Localisation; Normalisation using pixel segmentation or colour matching
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/63—Control of cameras or camera modules by using electronic viewfinders
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80—Camera processing pipelines; Components thereof
    • H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88—Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control

Definitions

  • Various embodiments of the present disclosure disclose a method and an apparatus for correcting a white balance during image capturing in an electronic device.
  • the electronic device provides not only a call function and a multimedia play function (for example, music play and video play) but also an image capture function.
  • the electronic device performs various image signal processing (for example, color correction processing) to evolve to acquire a desired image.
  • the electronic device is able to express the most appropriate color under an arbitrary light source through an auto white balance (AWB) function.
  • AVB auto white balance
  • the light entering the camera sensor (eg image sensor) of the electronic device depends on the spectrum of the light source and the reflection spectrum of the object, and the white or gray object is a low color temperature light source or high When exposed to a color temperature light source, it can be rendered red at a low color temperature light source and blue at a high color temperature light source.
  • an automatic white balance function is provided to correct this (for example, to display white as white).
  • the existing automatic white balance function applies white balance to the entire image regardless of the presence or absence of a face in the image.
  • the white balance is adjusted to match the background, so that the face color is different from the actual color (e.g., Can be expressed in blue).
  • the existing automatic white balance function applies white balance equally to images including people of different skin colors such as black, white, yellow, etc.
  • the skin color of the black may be expressed yellowish in contrast to the actual color
  • the skin color of the white or yellow man may be expressed in bluish contrast with the actual color.
  • a method and apparatus for improving a white balance function of an image photographed by an electronic device are disclosed.
  • a method and apparatus for detecting an attribute of a facial region eg, a human race
  • a white balance based on the detected attribute are disclosed.
  • an electronic device may include a display and a processor operatively connected to the display, wherein the processor acquires an image including one or more objects, and among the one or more objects in the image. Determine a first area corresponding to a face, determine a second area corresponding to a background among the one or more objects, identify a ratio between color information of the first area and color information of the second area, and If the ratio satisfies the set first condition, the white balance corresponding to the first area is corrected at the first level, and if the ratio satisfies the set second condition, the second level corresponds to the first area. Correcting the white balance, and a white balance corresponding to the first area at a corresponding one of the first level and the second level. May be configured to display the corrected image on the display.
  • An electronic device may include a camera module, a display, and a processor operatively connected to the camera module and the display, wherein the processor acquires an image including a face object, Distinguish a background region from a face region, determine attributes for the face region, calculate weights for correcting white balance based on attributes of the face region, correct the white balance based on the weights,
  • the image may be configured to be displayed on the display based on the corrected white balance.
  • An operation method of an electronic device may include obtaining an image including one or more objects, determining a first area corresponding to a face among the one or more objects in the image, and performing the operation. Determining a second area corresponding to a background among the above objects, checking a ratio between color information of the first area and color information of the second area, and when the ratio satisfies a set first condition, Correcting the white balance corresponding to the first area at a first level, correcting the white balance corresponding to the first area at a second level when the ratio satisfies a set second condition, and Display the image on which a white balance corresponding to the first area is corrected on a display at a corresponding one of a first level and a second level on a display It may include the operation.
  • various embodiments of the present disclosure may include a computer-readable recording medium having recorded thereon a program for executing the method in a processor.
  • an electronic device and an operation method thereof may detect a face region in an image and distinguish attributes (eg, races) corresponding to an object of the face region.
  • the white balance may be differentially provided based on an attribute corresponding to the object in the face region in the image. Accordingly, in various embodiments, the white balance performance of the image photographed by the electronic device may be improved.
  • the skin color according to the race may be expressed closer to the primary color.
  • the electronic device according to various embodiments of the present disclosure may contribute to improving usability, convenience, or usability of the electronic device.
  • FIG. 1 is a diagram illustrating a network environment including an electronic device according to various embodiments of the present disclosure.
  • FIG. 2 is a block diagram of an electronic device according to various embodiments of the present disclosure.
  • FIG. 3 is a block diagram of a program module according to various embodiments of the present disclosure.
  • FIG. 4 is a diagram illustrating an example of a white balance correction module in an electronic device according to various embodiments of the present disclosure.
  • 5 and 6 are diagrams illustrating color differences between attributes of an object in an electronic device according to various embodiments of the present disclosure.
  • FIG. 7 is a flowchart illustrating a method of operating an electronic device according to various embodiments of the present disclosure.
  • FIG. 8 is a diagram illustrating an example of classifying attributes of a face area in various embodiments of the present disclosure.
  • 9 and 10 are diagrams for explaining an example of setting a reference value for attribute classification in consideration of backlight in various embodiments of the present disclosure.
  • FIG. 11 is a flowchart illustrating a method of operating an electronic device according to various embodiments of the present disclosure.
  • FIG. 12 is a flowchart illustrating a method of operating an electronic device according to various embodiments of the present disclosure.
  • FIG. 13 is a flowchart illustrating a method of operating an electronic device according to various embodiments of the present disclosure.
  • FIG. 14 is a flowchart illustrating a method of operating an electronic device according to various embodiments of the present disclosure.
  • 15 is a diagram illustrating an example of a white balance correction result in an electronic device according to various embodiments of the present disclosure.
  • Singular expressions may include plural expressions unless the context clearly indicates otherwise.
  • expressions such as “A or B” or “at least one of A and / or B” may include all possible combinations of items listed together.
  • Expressions such as “first”, “second”, “first”, or “second” may modify the components in any order or importance, and may be used to distinguish one component from another. It does not limit the components.
  • any (eg first) component is said to be “connected” or “connected” to another (eg second) component, the other component is said other The component may be directly connected or connected through another component (eg, a third component).
  • “configured to” means having the ability to “fit to”, “hard,” depending on the circumstances, for example, hardware or software. It can be used interchangeably with “,” modified to “,” made to “,” doable “, or” designed to “.
  • the expression “device configured to” may mean that the device “can” together with other devices or components.
  • the phrase “processor configured (or configured to) perform A, B, and C” may be implemented by executing a dedicated processor (eg, an embedded processor) to perform its operation, or one or more software programs stored in a memory device. It may mean a general-purpose processor (eg, a central processing unit (CPU) or an application processor (AP)) capable of performing corresponding operations.
  • a dedicated processor eg, an embedded processor
  • AP application processor
  • An electronic device may be, for example, a smartphone, a tablet PC, a mobile phone, a video phone, an e-book reader, a desktop PC, a laptop PC. , Netbook computer, workstation, server, personal digital assistant (PDA), portable multimedia player (PMP), MPEG-1 Audio Layer-3 (MP3) player, medical device, camera, or It may include at least one of a wearable device.
  • Wearable devices may be accessory (e.g. watches, rings, bracelets, anklets, necklaces, eyeglasses, contact lenses, or head-mounted-devices, fabrics or clothing (e.g. electronic garments), body It may include at least one of an attachable type (eg, a skin pad or a tattoo) or an implantable circuit.
  • the electronic device is, for example, a television, a digital video disk (DVD) player, audio, refrigerator, air conditioner, cleaner, oven, microwave oven, washing machine, air purifier, set top box, home automation control panel, security Include at least one of a control panel, media box (e.g. Samsung HomeSync TM , Apple TV TM , or Google TV TM ), game console (e.g. Xbox TM , PlayStation TM ), electronic dictionary, electronic key, camcorder, or electronic frame can do.
  • a control panel e.g. Samsung HomeSync TM , Apple TV TM , or Google TV TM
  • game console e.g. Xbox TM , PlayStation TM
  • electronic dictionary e.g. iPhone, iPad, Samsung HomeSync TM , PlayStation TM
  • electronic key e.g., camcorder, or electronic frame can do.
  • the electronic device may include various medical devices (eg, various portable medical measuring devices (eg, blood glucose meters, heart rate monitors, blood pressure meters, or body temperature meters), magnetic resonance angiography (MRA), and magnetic resonance imaging). ), Computed tomography (CT), cameras, or ultrasounds), navigation devices, global navigation satellite systems (GNSS), event data recorders (EDR), flight data recorders (FDR), automotive infotainment devices (in- vehicle infotainment device, automotive infotainment device, marine electronic equipment (e.g.
  • marine navigation devices gyro compasses, etc.
  • avionics security equipment
  • vehicle head units industrial or domestic robots
  • drones Automated teller machines
  • ATMs Automated teller machines
  • POS point of sales
  • IoT Internet of things
  • Street lights toaster, exercise equipment, hot water tank, a heater, boiler, etc.
  • Street lights toaster, exercise equipment, hot water tank, a heater, boiler, etc.
  • an electronic device may be a part of a furniture, building / structure, or automobile, an electronic board, an electronic signature receiving device, a projector, or various measuring devices (eg, Water, electricity, gas, or radio wave measuring instrument).
  • the electronic device may be flexible or a combination of two or more of the aforementioned various devices.
  • An electronic device according to an embodiment of the present disclosure is not limited to the above-described devices.
  • the term user may refer to a person who uses an electronic device or a device (eg, an artificial intelligence electronic device) that uses an electronic device.
  • FIG. 1 is a diagram illustrating a network environment including an electronic device according to various embodiments of the present disclosure.
  • the electronic device 101 may include a bus 110, a processor 120 (eg, a processor including processing circuitry), a memory 130, an input / output interface 150, a display 160, and It may include a communication interface 170. According to an embodiment of the present disclosure, the electronic device 101 may omit at least one of the components or additionally include other components.
  • a processor 120 eg, a processor including processing circuitry
  • the electronic device 101 may omit at least one of the components or additionally include other components.
  • the bus 110 may include circuitry that connects the components 110-170 to each other and transfers communication (eg, control messages or data) between the components.
  • the processor 120 may include one or more of a central processing unit (CPU), an application processor (AP), or a communication processor (CP).
  • the processor 120 may execute, for example, an operation or data processing related to control and / or communication of at least one other component of the electronic device 101. Processing (or control) operations of the processor 120 according to various embodiments of the present disclosure will be described in detail with reference to the accompanying drawings.
  • the memory 130 may include volatile memory and / or non-volatile memory.
  • the memory 130 may store, for example, commands or data related to at least one other element of the electronic device 101.
  • the memory 130 may store software and / or a program 140.
  • the program 140 may include, for example, a kernel 141, middleware 143, an application programming interface (API) 145, and / or an application program ( Or "application”) 147 or the like. At least a portion of kernel 141, middleware 143, or API 145 may be referred to as an operating system (OS).
  • OS operating system
  • the memory 130 may store one or more programs executed by the processor 120, and may perform a function for temporarily storing input / output data.
  • the input / output data may include, for example, data such as a video, an image (eg, a photo), function (or application) performance related information, or audio.
  • the memory 130 is responsible for storing the obtained data, and the obtained data in real time may be stored in a temporary storage device (eg, a buffer), and the data determined to be stored. Can be stored in a storage device that can be stored long.
  • the memory 130 may include a computer-readable recording medium that records a program for executing the method in the processor 120 according to various embodiments.
  • the kernel 141 may be a system resource (eg, used to execute an action or function implemented in, for example, other programs (eg, middleware 143, API 145, or application program 147).
  • the bus 110, the processor 120, or the memory 130 may be controlled or managed.
  • the kernel 141 may provide an interface for controlling or managing system resources by accessing individual components of the electronic device 101 from the middleware 143, the API 145, or the application program 147. Can be.
  • the middleware 143 may serve as an intermediary for allowing the API 145 or the application program 147 to communicate with the kernel 141 to exchange data.
  • the middleware 143 may process one or more work requests received from the application program 147 according to priority.
  • the middleware 143 may use system resources (eg, the bus 110, the processor 120, or the memory 130, etc.) of the electronic device 101 for at least one of the application programs 147. Prioritize and process one or more work requests.
  • the API 145 is an interface for the application 147 to control functions provided by the kernel 141 or the middleware 143. For example, file control, window control, and image are provided. It may include at least one interface or function (eg, a command) for processing or character control.
  • the input / output interface 150 may transfer, for example, a command or data input from a user or an external device to other component (s) of the electronic device 101, or the other component (s) of the electronic device 101.
  • the command or data received from the user can be output to the user or an external device.
  • wired / wireless headphone port, external charger port, wired / wireless data port, memory card port, audio input / output port, video input / output port, earphone port Etc. may be included in the input / output interface 150.
  • the display 160 may be, for example, a liquid crystal display (LCD), a light emitting diode (LED) display, an organic light emitting diode (OLED) display, an active OLED (AMOLED). ), Micro-electromechanical systems (MEMS) displays, or electronic paper displays.
  • the display 160 may display, for example, various contents (eg, text, images, videos, icons, and / or symbols, etc.) to the user.
  • the display 160 may include a touchscreen, for example, a touch, a gesture, proximity, or hovering using an electronic pen or a part of a user's body. ) Can receive input.
  • Display 160 may, for example, show a visual output to a user.
  • the visual output may appear in the form of text, graphics, video, and combinations thereof.
  • the display 160 may display (output) various types of information processed by the electronic device 101.
  • the display 160 may display a user interface (UI) or a graphical user interface (GUI) related to the use of the electronic device 101.
  • UI user interface
  • GUI graphical user interface
  • the display 160 may display various user interfaces (eg, a UI or a GUI) related to an operation performed by the electronic device 101 (eg, a content display operation, a status information display operation, and the like). have.
  • the display 160 may include a curved display (or a bent display) that can bend, bend, or roll without damage through a thin, flexible substrate, such as a flat panel display or paper.
  • the curved display may be fastened to the housing (or bezel) to maintain the curved shape.
  • the electronic device 101 may be implemented as a display device that can be bent and detached like a flexible display, as well as in a form such as a curved display.
  • the display 160 may be folded and unfolded by replacing the glass substrate surrounding the liquid crystal with a plastic film in a liquid crystal display (LCD), a light emitting diode (LED), an organic light emitting diode (OLED), or an active OLED (AMOLED). It can give flexibility.
  • the display 160 extends to at least one side (eg, at least one of a left side, a right side, an upper side, and a bottom side) of the electronic device 101 such that a curved display can be operated. (radius of curvature) (eg radius of curvature 5cm, 1cm, 7.5mm, 5mm, 4mm, etc.) can be folded and fastened to the side of the housing.
  • the display 160 according to various embodiments of the present disclosure may be embodied in a right angle shape without a radius of curvature.
  • the communication interface 170 may establish communication between the electronic device 101 and an external device (eg, the first external electronic device 102, the second external electronic device 104, or the server 106). Can be.
  • the communication interface 170 may be connected to the network 162 through wireless or wired communication to communicate with an external device.
  • Wireless communication includes, for example, long term evolution (LTE), LTE Advance (LTE-A), code division multiple access (CDMA), wideband CDMA (WCDMA), universal mobile telecommunications system (UMTS), and wireless broadband (WiBro). Or cellular communication using at least one of a global system for mobile communications (GSM) and the like.
  • LTE long term evolution
  • LTE-A LTE Advance
  • CDMA code division multiple access
  • WCDMA wideband CDMA
  • UMTS universal mobile telecommunications system
  • WiBro wireless broadband
  • GSM global system for mobile communications
  • the wireless communication is, for example, as illustrated by element 164 of FIG. 1, wireless fidelity (WiFi), light fidelity (LiFi), wireless gigabit alliance (WiGig), and Bluetooth (Bluetooth). ), Bluetooth low energy (BLE), Zigbee, near field communication (NFC), magnetic secure transmission, radio frequency (RF), or body area network (BAN, body) and at least one of an area network.
  • WiFi wireless fidelity
  • LiFi light fidelity
  • WiGig wireless gigabit alliance
  • Bluetooth Bluetooth low energy
  • BLE Bluetooth low energy
  • NFC near field communication
  • RF radio frequency
  • BAN body area network
  • the wireless communication may include a GNSS.
  • the GNSS may be, for example, a global positioning system (GPS), a global navigation satellite system (Glonass), a Beidou Navigation Satellite System (hereinafter referred to as "Beidou”), or a Galileo, the European global satellite-based navigation system.
  • GPS global positioning system
  • Galileo Beidou Navigation Satellite System
  • GNSS Galileo
  • Wired communication may include, for example, universal serial bus (USB), high definition multimedia interface (HDMI), updated standard 232 (RS-232), power line communication, or plain old telephone service (POTS). It may include at least one.
  • USB universal serial bus
  • HDMI high definition multimedia interface
  • RS-232 updated standard 232
  • POTS plain old telephone service
  • the network 162 may comprise at least one of a telecommunications network, for example, a computer network (eg, a local area network (LAN) or a wide area network (WAN)), the Internet, or a telephone network. It may include.
  • a computer network eg, a local area network (LAN) or a wide area network (WAN)
  • WAN wide area network
  • the network 162 may comprise at least one of a telecommunications network, for example, a computer network (eg, a local area network (LAN) or a wide area network (WAN)), the Internet, or a telephone network. It may include.
  • Each of the first external electronic device 102 and the second external electronic device 104 may be the same or different type of device as the electronic device 101. According to various embodiments of the present disclosure, all or part of operations executed in the electronic device 101 may be executed in one or a plurality of external devices (for example, the electronic devices 102 and 104 or the server 106).
  • the electronic device 101 when the electronic device 101 needs to perform a function or service automatically or by request, the electronic device 101 may instead or additionally execute the function or service by itself.
  • the associated at least some functions may be requested to other electronic devices (eg, the electronic devices 102 and 104 or the server 106).
  • the other electronic device (for example, the electronic devices 102 and 104 or the server 106) may execute the requested function or the additional function and transmit the result to the electronic device 101.
  • the electronic device 101 may process the received result as it is or additionally to provide the requested function or service.
  • cloud computing, distributed computing, or client-server computing technology may be used.
  • the server 106 may be, for example, an integration server, a provider server (or a carrier server), a content server, an internet server, a cloud server. ), A web server, a secure server, a certification server, or the like.
  • FIG. 2 is a block diagram of an electronic device according to various embodiments of the present disclosure.
  • the electronic device 201 may include, for example, all or part of the electronic device 101 illustrated in FIG. 1.
  • the electronic device 201 may include one or more processors 210 (eg, an AP), a communication module 220, a subscriber identification module 224, a memory 230, a sensor module 240, an input device 250, and a display ( 260, interface 270, audio module 280, camera module 291, power management module 295, battery 296, indicator 297, motor 298 (eg, vibration motor), and the like. It may include.
  • the electronic device 201 may not be essential to those illustrated in FIG. 2, and thus may be implemented to have more or fewer configurations than those illustrated in FIG. 2.
  • the electronic device 201 may not include any components.
  • the above-described components of the electronic device 201 may be seated on or outside the housing (or bezel, main body) of the electronic device 201.
  • the processor 210 may control, for example, a plurality of hardware or software components connected to the processor 210 by driving an operating system or an application program, and may perform various data processing and operations.
  • the processor 210 may be implemented with, for example, a system on chip (SoC).
  • SoC system on chip
  • the processor 210 may further include a graphic processing unit (GPU) and / or an image signal processor (ISP).
  • GPU graphic processing unit
  • ISP image signal processor
  • the processor 210 may include at least some of the components illustrated in FIG. 2 (eg, the cellular module 221). The processor 210 may load and process instructions or data received from at least one of other components (eg, nonvolatile memory) into the volatile memory, and store the result data in the nonvolatile memory.
  • other components eg, nonvolatile memory
  • the processor 210 may include one or more processors.
  • the processor 210 may include a communication processor (CP), an application processor (AP), an interface (eg, GPIO, general purpose input / output), internal memory, or the like as separate components, or one or more components. It can be integrated in an integrated circuit.
  • the application processor may execute various software programs to perform various functions for the electronic device 201, and the communication processor may perform processing and control for voice communication and data communication. Can be done.
  • the processor 210 may execute a specific software module (for example, an instruction set) stored in the memory 230 to perform various specific functions corresponding to the module.
  • the processor 210 may control the overall operation of the electronic device 201.
  • the processor 210 may include an audio module 280, an interface 270, a display 260, a camera module 291, a communication module 220, a power management module 295, and a sensor module 240. Or control the operation of a hardware module such as a motor 298.
  • the processor 210 may be electrically connected to the display 260, the memory 230, the communication module 220, the interface 270, and / or the camera module 291 of the electronic device 201. Can be.
  • the processor 210 may process an operation related to detecting a face region in an image, distinguishing an attribute (eg, race information) of the face region, and performing white balance correction based on the attribute. have.
  • the processor 210 acquires an image including one or more objects, determines a first area corresponding to a face among one or more objects in the image, and determines one or more objects.
  • An operation related to determining the second area corresponding to the background may be processed.
  • the processor 210 checks a ratio (or difference value) between the color information of the first region and the color information of the second region, and sets the first level to the first level when the ratio satisfies the set first condition.
  • the operation of correcting the white balance corresponding to the first region and correcting the white balance corresponding to the first region at the second level may be processed when the ratio satisfies the second condition.
  • the processor 210 may perform an operation related to displaying, on the display 260, an image whose white balance is corrected corresponding to the first area at a corresponding one of a first level and a second level. Can be processed.
  • the communication module 220 may have a configuration that is the same as or similar to that of the communication interface 170 illustrated in FIG. 1, for example.
  • the communication module 220 may include, for example, a cellular module 221, a WiFi module 223, a Bluetooth module 225, a GNSS module 227, an NFC module 228, and an RF module 229. have.
  • the communication module 220 may further include, for example, a WiGig module (not shown).
  • the WiFi module 223 and the WiGig module may be integrated into one chip.
  • the cellular module 221 may, for example, provide a voice call, a video call, a text service, an internet service, or the like through a communication network. According to an embodiment of the present disclosure, the cellular module 221 may perform identification and authentication of the electronic device 201 in a communication network using a subscriber identification module (eg, a subscriber identification module (SIM) card) 224. . According to an embodiment of the present disclosure, the cellular module 221 may perform at least some of the functions that the processor 210 may provide. According to an embodiment of the present disclosure, the cellular module 221 may include a communication processor (CP).
  • CP communication processor
  • At least some (eg, two or more) of the cellular module 221, the WiFi module 223, the Bluetooth module 225, the GNSS module 227, or the NFC module 228 may include one IC ( integrated chip) or IC package.
  • the RF module 229 may transmit / receive a communication signal (for example, an RF signal), for example.
  • the RF module 229 may include, for example, a transceiver, a power amplifier module (PAM), a frequency filter, a low noise amplifier (LNA), an antenna, or the like.
  • PAM power amplifier module
  • LNA low noise amplifier
  • at least one of the cellular module 221, the WiFi module 223, the Bluetooth module 225, the GNSS module 227, or the NFC module 228 may transmit and receive an RF signal through a separate RF module. Can be.
  • the WiFi module 223 may, for example, connect a wireless local area network (WLAN) link with a wireless Internet connection and an external device (e.g., another electronic device 102 or server 106, etc.). It may represent a module for forming.
  • the WiFi module 223 may be embedded or external to the electronic device 201.
  • Wireless Internet technologies may include WiFi, WiGig, Wibro, world interoperability for microwave access (WiMax), high speed downlink packet access (HSDPA), or millimeter wave (mmWave).
  • the WiFi module 223 may be directly connected to the electronic device 201, or may be connected to an external device (eg, another electronic device (eg, a wireless Internet network) (eg, the network 162)). 104, etc.), various data of the electronic device 201 may be transmitted to the outside or received from the outside.
  • the WiFi module 223 may be constantly turned on or may be turned on / off according to a setting of the electronic device or a user input.
  • the Bluetooth module 225 and the NFC module 228 may represent, for example, a short range communication module for performing short range communication.
  • Bluetooth, low power Bluetooth (BLE), radio frequency identification (RFID), infrared communication (IrDA), ultra wideband (UWB), Zigbee, or NFC may be used as a short range communication technology.
  • the short range communication module interlocks with the external device (for example, other electronic device 102, etc.) connected to the electronic device 201 through a network (for example, a short distance communication network) to externally store various data of the electronic device 201. Can be sent or received by the device.
  • the short range communication module (for example, the Bluetooth module 225 and the NFC module 228) may be always on, or may be turned on / off according to a setting of the electronic device 201 or a user input.
  • Subscriber identification module 224 may include, for example, a card or embedded SIM that includes a subscriber identification module, and may include unique identification information (eg, integrated circuit card identifier (ICCID)) or subscriber information (eg, IMSI). (international mobile subscriber identity)).
  • ICCID integrated circuit card identifier
  • IMSI international mobile subscriber identity
  • the memory 230 may include, for example, an internal memory 232 or an external memory 234.
  • the internal memory 232 may be, for example, volatile memory (for example, dynamic access memory (DRAM), synchronous RAM (SRAM), or synchronous dynamic RAM, etc.), nonvolatile memory (for example, OTPROM). (one time programmable read only memory), programmable ROM (PROM), erasable and programmable ROM (EPROM), electrically EPROM (EEPROM), mask ROM, flash ROM, flash memory, hard drive, or solid state drive (SSD) and a solid state drive).
  • DRAM dynamic access memory
  • SRAM synchronous RAM
  • OTPROM nonvolatile memory
  • OTPROM nonvolatile memory
  • PROM programmable ROM
  • EPROM erasable and programmable ROM
  • EEPROM electrically EPROM
  • mask ROM mask ROM
  • flash ROM flash memory
  • flash memory hard drive
  • SSD solid state drive
  • the external memory 234 may be a flash drive, for example, a compact flash (CF), a secure digital (SD), a micro-SD, a mini-SD, an extreme digital (XD), or a multi-media card (MMC). Or a memory stick.
  • the external memory 234 may be functionally or physically connected to the electronic device 201 through various interfaces.
  • the memory 230 may, in various embodiments, cause the processor 210 to detect a face region in an image, distinguish attributes of a facial region (eg, race information), and perform white balance correction based on the attributes.
  • One or more related programs, data, or instructions may be stored.
  • the memory 230 may include various setting information (eg, color information, reference value, correction value, white balance offset, backlight) for white balance correction according to an attribute (eg race) of an object of a face area. Ratios, etc.) can be stored.
  • the memory 230 may look-up a variety of state-specific setting information related to the processor 210 controlling white balance correction according to an attribute (eg, race) of an object of a face area. It can be stored in the form of an up table (or a mapping table).
  • an attribute eg, race
  • the memory 230 may look-up a variety of state-specific setting information related to the processor 210 controlling white balance correction according to an attribute (eg, race) of an object of a face area. It can be stored in the form of an up table (or a mapping table).
  • the memory 230 may include expansion memory (eg, external memory 234) or internal memory (eg, internal memory 232).
  • expansion memory eg, external memory 234
  • internal memory eg, internal memory 232
  • the electronic device 201 may operate in association with a web storage that performs a storage function of the memory 230 on the Internet.
  • the memory 230 may store one or more software (or software modules).
  • the software component may be an operating system software module, a communication software module, a graphics software module, a user interface software module, a moving picture experts group (MPEG) module, a camera software module, or one or more application software modules. It may include.
  • a module which is a software component, may be expressed as a set of instructions, so that a module may be referred to as an instruction set. Modules are also represented programmatically.
  • the memory 230 may include additional modules (instructions) in addition to the above-described module. Or, if necessary, some modules (instructions) may not be used.
  • Operating system software modules may include various software components that control general system operations. Controlling such general system operation may mean, for example, memory management and control, storage hardware (device) control and management, or power control and management.
  • the operating system software module may also perform functions that facilitate communication between various hardware (devices) and software components (modules).
  • the communication software module may enable communication with other electronic devices such as a wearable device, a smartphone, a computer, a server, or a portable terminal through the communication module 220 or the interface 270.
  • the communication software module may be configured with a protocol structure corresponding to the communication method.
  • the graphics software module may include various software components for presenting and displaying graphics on the display 260.
  • graphics may be used to mean text, web pages, icons, digital images, video, animations, and the like. have.
  • the user interface software module may include various software components related to the user interface (UI). For example, it may include how the state of the user interface changes or under what conditions the state of the user interface state changes.
  • the MPEG module may include software components that enable processes and functions (eg, creation, playback, distribution and transmission, etc.) of digital content (eg, video, audio, etc.).
  • processes and functions eg, creation, playback, distribution and transmission, etc.
  • digital content eg, video, audio, etc.
  • the camera software module may include camera related software components that enable camera related processes and functions.
  • Application modules include web browsers, including a rendering engine, email, instant messages, word processing, keyboard emulation, address book ), Touch list, widget, digital right management (DRM), iris scan, context recognition, voice recognition, location determination ( position determining function), location based service, and the like.
  • a rendering engine including a rendering engine, email, instant messages, word processing, keyboard emulation, address book ), Touch list, widget, digital right management (DRM), iris scan, context recognition, voice recognition, location determination ( position determining function), location based service, and the like.
  • the application module may include a health care (eg, measuring exercise amount or blood sugar) or an application for providing environmental information (eg, barometric pressure, humidity, or temperature information). Can be.
  • the application module may include one or more applications that detect a face region in an image, distinguish an attribute (eg, race information) of the face region, and perform white balance correction based on the attribute. Can be.
  • the sensor module 240 may measure, for example, a physical quantity or detect an operation state of the electronic device 201 and convert the measured or detected information into an electrical signal.
  • the sensor module 240 is, for example, a gesture sensor 240A, a gyro sensor 240B, a barometer sensor 240C, a magnetic sensor 240D. , Acceleration sensor (240E), grip sensor (240F), proximity sensor (240G), color sensor (240H) (e.g. RGB (red, green, blue) Sensor), a biometric sensor 240I, a temperature / humidity sensor 240J, an illuminance sensor 240K, or an ultraviolet violet sensor 240M. It may include one.
  • sensor module 240 may include, for example, an e-nose sensor, an electromyography sensor, and an electroencephalogram sensor. And an electrocardiogram (ECG) sensor, an infrared (IR) sensor, an iris scan sensor, and / or a fingerprint scan sensor.
  • the sensor module 240 may further include a control circuit for controlling at least one or more sensors belonging thereto.
  • the electronic device 201 may be a processor (eg, a low power processor, a micro controller unit (MCU), a micro processor unit (MPU) configured to control the sensor module 240 as part of or separately from the processor 210). Etc.), while the processor 210 is in a sleep state, the sensor module 240 may be controlled.
  • the input device 250 may include, for example, a touch panel 252, a (digital) pen sensor 254, a key 256, or an ultrasonic input device 258.
  • the touch panel 252 may use at least one of capacitive, resistive, infrared, or ultrasonic methods, for example.
  • the touch panel 252 may further include a control circuit.
  • the touch panel 252 may further include a tactile layer to provide a tactile response to the user.
  • the (digital) pen sensor 254 may be, for example, part of a touch panel or may include a separate sheet for recognition.
  • the key 256 may include, for example, a physical button, an optical key, or a keypad.
  • the ultrasonic input device 258 may detect the ultrasonic waves generated by the input tool through the microphone 288 and check the data corresponding to the detected ultrasonic waves.
  • the input device 250 may include an electronic pen.
  • the input device 250 may be implemented to receive a force touch.
  • Display 260 may include panel 262, hologram device 264, projector 266, and / or control circuitry to control them.
  • the panel 262 may be implemented to be, for example, flexible, transparent, or wearable.
  • the panel 262 may be configured with the touch panel 252 and one or more modules.
  • the panel 262 may include a pressure sensor (or force sensor) capable of measuring the strength of the pressure with respect to the user's touch.
  • the pressure sensor may be integrated with the touch panel 252 or may be implemented with one or more sensors separate from the touch panel 252.
  • the panel 262 may be seated on the display 260 and sense a user input in contact with or in proximity to the surface of the display 260.
  • the user input may include a touch input or a proximity input input based on at least one of single-touch, multi-touch, hovering, or air gesture.
  • the panel 262 may receive a user input for starting an operation related to the use of the electronic device 201 in various embodiments, and generate an input signal according to the user input.
  • the panel 262 may be configured to convert a change in pressure applied to a specific portion of the display 260 or capacitance occurring at a specific portion of the display 260 into an electrical input signal.
  • the panel 262 may detect a location and area at which an input tool (eg, a user's finger, an electronic pen, etc.) is touched or approached on the surface of the display 260.
  • the panel 262 may be implemented to detect even a pressure (for example, force touch) at the time of touch according to the applied touch method.
  • the hologram 264 may show a stereoscopic image in the air by using interference of light.
  • the projector 266 may display an image by projecting light onto a screen.
  • the screen may be located inside or outside the electronic device 201.
  • the interface 270 may include, for example, an HDMI 272, a USB 274, an optical interface 276, a D-subminiature 278, or the like.
  • the interface 270 may be included in, for example, the communication interface 170 illustrated in FIG. 1.
  • interface 270 may include, for example, a mobile high-definition link (MHL) interface, an SD card / multi-media card (MMC) interface, or an infrared data association (IrDA) compliant interface. have.
  • MHL mobile high-definition link
  • MMC multi-media card
  • IrDA infrared data association
  • the interface 270 may receive data from another electronic device, or may receive power and transfer the power to each component in the electronic device 201.
  • the interface 270 may allow data inside the electronic device 201 to be transmitted to another electronic device.
  • wired / wireless headphone port, external charger port, wired / wireless data port, memory card port, audio input / output port, video input / output port, earphone port And the like may be included in the interface 270.
  • the interface 270 eg, the USB 274
  • the interface 270 may serve as an interface with all external devices connected to the electronic device 201.
  • the interface 270 (eg, USB 274) may include a USB Type C interface (hereinafter, Type C interface).
  • the audio module 280 may bidirectionally convert, for example, a sound and an electrical signal. At least some components of the audio module 280 may be included in, for example, the input / output interface 145 illustrated in FIG. 1.
  • the audio module 280 may process sound information input or output through, for example, a speaker 282, a receiver 284, an earphone 286, a microphone 288, or the like.
  • the audio module 280 transmits an audio signal received from the processor 210 to an output device (eg, the speaker 282, the receiver 284, or the earphone 286), and inputs the input device (eg, the microphone 288).
  • An audio signal, such as a voice input from the processor may be transmitted to the processor 210.
  • the audio module 280 converts the voice / sound data into an audible sound through an output device under the control of the processor 210, and outputs the audio / audio data. Can be forwarded to
  • the speaker 282 or the receiver 284 may output audio data received from the communication module 220 or stored in the memory 230.
  • the speaker 282 or the receiver 284 may output sound signals related to various operations (functions) performed by the electronic device 201.
  • the microphone 288 may receive an external sound signal and process the same as electrical voice data.
  • the microphone 288 may implement various noise reduction algorithms for removing noise generated in the process of receiving an external sound signal.
  • the microphone 288 may be responsible for input of audio streaming, such as a voice command.
  • the camera module 291 is, for example, a device capable of capturing still images and moving images.
  • the camera module 291 may include one or more image sensors (eg, a front sensor or a rear sensor), a lens, and an image signal processor (ISP). Or flash (eg, LED or xenon lamp, etc.).
  • image sensors eg, a front sensor or a rear sensor
  • ISP image signal processor
  • flash eg, LED or xenon lamp, etc.
  • the camera module 291 represents a configuration supporting a capturing function of the electronic device 201.
  • the camera module 291 may photograph an arbitrary subject under the control of the processor 210, and transfer the photographed data (eg, an image) to the display 260 and the processor 210.
  • the camera module 291 may include, for example, a first camera (eg, a color (RGB) camera) and depth information (eg, location information and distance of a subject) to acquire color information. And a second camera (eg, an infrared (IR) camera) for obtaining information.
  • the first camera may be a front camera provided in the front of the electronic device 201.
  • the front camera may be replaced by the second camera, and the first camera may not be provided at the front of the electronic device 201.
  • the first camera may be disposed together on the front surface of the electronic device 201 together with the second camera.
  • the first camera may be a rear camera provided at the rear of the electronic device 201.
  • the first camera may have a form including both a front camera and a rear camera respectively provided on the front and rear of the electronic device 201.
  • the camera module 291 may include an image sensor.
  • the image sensor may be implemented as a charged coupled device (CCD) or a complementary metal-oxide semiconductor (CMOS).
  • CCD charged coupled device
  • CMOS complementary metal-oxide semiconductor
  • the power management module 295 may manage power of the electronic device 201, for example.
  • the power management module 295 may include a power management integrated circuit (PMIC), a charger IC, a battery, or a fuel gauge (or a battery gauge).
  • PMIC power management integrated circuit
  • a charger IC charger IC
  • a battery battery
  • a fuel gauge or a battery gauge
  • the PMIC may have a wired and / or wireless charging scheme.
  • the wireless charging method may include, for example, a magnetic resonance method, a magnetic induction method, an electromagnetic wave method, or the like.
  • the PMIC may further include additional circuitry for wireless charging, such as a coil loop, a resonance circuit, a rectifier, or the like.
  • the fuel gauge may measure, for example, the remaining amount of the battery 296, the voltage, the current, or the temperature during charging.
  • the battery 296 may include, for example, a rechargeable battery and / or a solar battery.
  • the indicator 297 may display a specific state of the electronic device 201 or a part thereof (for example, the processor 210), for example, a booting state, a message state, or a charging state.
  • the motor 298 may convert an electrical signal into mechanical vibration, and may generate a vibration or a haptic effect.
  • the electronic device 201 may include a motor driving controller (not shown), and the motor 298 may be driven under the control of the motor driving controller.
  • the processor 210 applies a signal related to vibration generation to the motor driving controller, and the motor driving controller outputs a motor driving signal corresponding to the signal received from the processor 210 to the motor 298.
  • the motor 298 may be driven by the motor driving signal received from the motor driving controller to generate vibration.
  • the motor 298 may be implemented by a vibration generating device (or module) that generates vibration.
  • the vibration generating device may include, for example, a motor 298, a vibrator, an actuator, or a haptic generating device.
  • Various embodiments may use one or more vibration generating devices to perform operations related to vibration generation and generation.
  • the electronic device 201 may include, for example, a mobile device capable of processing media data according to a standard such as digital multimedia broadcasting (DMB), digital video broadcasting (DVB), or mediaFlo TM . It may include a TV support device (eg, GPU).
  • DMB digital multimedia broadcasting
  • DVD digital video broadcasting
  • mediaFlo TM mediaFlo TM
  • TV support device eg, GPU
  • Each of the components described in this document may be composed of one or more components, and the names of the corresponding components may vary depending on the type of electronic device.
  • the electronic device eg, the electronic devices 101 and 201
  • the electronic devices 101 and 201 may be omitted, some additional components may be included, or some of the components may be combined to form a single object.
  • the functions of the corresponding components before combining may be performed in the same way.
  • FIG. 3 is a block diagram of a program module according to various embodiments of the present disclosure.
  • the program module 310 may be configured to operate on an operating system and / or operating system that controls resources related to the electronic device (eg, the electronic devices 101 and 201). It may include an application (for example, the application program 147).
  • the operating system may include, for example, Android TM , iOS TM , Windows TM , Symbian TM , Tizen TM , or Bada TM .
  • the program module 310 may include a kernel 320 (eg, kernel 141), middleware 330 (eg, middleware 143), and API 360 (eg, API 145). , And / or the application 370 (eg, the application program 147). At least a part of the program module 310 may be preloaded on the electronic device or may be downloaded from an external electronic device (eg, the electronic devices 102 and 104, the server 106, etc.).
  • a kernel 320 eg, kernel 141
  • middleware 330 eg, middleware 143
  • API 360 eg, API 145
  • the application 370 eg, the application program 147
  • At least a part of the program module 310 may be preloaded on the electronic device or may be downloaded from an external electronic device (eg, the electronic devices 102 and 104, the server 106, etc.).
  • the kernel 320 may include, for example, a system resource manager 321 and / or a device driver 323.
  • the system resource manager 321 may perform control, allocation, or retrieval of system resources. According to an embodiment of the present disclosure, the system resource manager 321 may include a process manager, a memory manager, or a file system manager.
  • the device driver 323 may include, for example, a display driver, a camera driver, a Bluetooth driver, a shared memory driver, a USB driver, a keypad driver, a WiFi driver, an audio driver, or an inter-process communication (IPC) driver.
  • a display driver for example, a liquid crystal display (LCD) driver, a Wi-Fi driver, a Wi-Fi driver, a Wi-Fi driver, a Wi-Fi driver, or a Wi-Fi driver.
  • IPC inter-process communication
  • the middleware 330 may provide various functions through the API 360, for example, to provide functions commonly required by the application 370, or to allow the application 370 to use limited system resources inside the electronic device. May be provided to the application 370.
  • the middleware 330 may include a runtime library 335, an application manager 341, a window manager 342, and a multimedia manager 343.
  • the runtime library 335 may include, for example, a library module used by a compiler to add new functions through a programming language while the application 370 is running.
  • the runtime library 335 may perform input / output management, memory management, or arithmetic function processing.
  • the application manager 341 may manage, for example, a life cycle of the application 370.
  • the window manager 342 may manage graphical user interface (GUI) resources used on the screen.
  • GUI graphical user interface
  • the multimedia manager 343 may identify a format necessary for playing the media files, and may encode or decode the media file using a codec suitable for the format.
  • the resource manager 344 may manage space of source code or memory of the application 370.
  • the power manager 345 may manage, for example, the capacity, temperature, or power of the battery, and may determine or provide power information necessary for the operation of the electronic device using the corresponding information. According to an embodiment of the present disclosure, the power manager 345 may interwork with a basic input / output system (BIOS).
  • BIOS basic input / output system
  • the database manager 346 may create, retrieve, or change a database to be used, for example, in the application 370.
  • the package manager 347 may manage installation or update of an application distributed in the form of a package file.
  • the connectivity manager 348 may manage, for example, a wireless connection.
  • the notification manager 349 may provide the user with events such as, for example, an arrival message, an appointment, a proximity notification, and the like.
  • the location manager 350 may manage location information of the electronic device, for example.
  • the graphic manager 351 may manage, for example, graphic effects to be provided to the user or a user interface related thereto.
  • the security manager 352 may provide system security or user authentication, for example.
  • the middleware 330 may include a telephony manager for managing a voice or video telephony function of the electronic device or a middleware module that may form a combination of functions of the above-described components.
  • the middleware 330 may provide a module specialized for each type of OS. The middleware 330 may dynamically delete some of the existing components or add new components.
  • API 360 is, for example, a set of API programming functions, which may be provided in different configurations depending on the operating system. For example, in the case of Android or iOS, one API set may be provided for each platform, and in Tizen, two or more API sets may be provided for each platform.
  • the application 370 is, for example, a home 371, a dialer 372, an SMS / MMS 373, an instant message (IM) 374, a browser 375, a camera 376, an alarm 377. , Applications 378, voice dial 379, email 380, calendar 381, media player 382, album 383, watch 384, and the like.
  • the application 370 may include a health care (eg, exercise amount or blood glucose, etc.) or an environment information (eg, barometric pressure, humidity, or temperature information) application.
  • the application 370 may include an application that detects a face region in an image, classifies an attribute (eg, race information) of the face region, and performs an operation of correcting white balance based on the attribute. Can be.
  • an attribute eg, race information
  • the application 370 may include an information exchange application capable of supporting information exchange between the electronic device 201 and an external electronic device.
  • the information exchange application may include, for example, a notification relay application for delivering specific information to the external electronic device, or a device management application for managing the external electronic device.
  • the notification relay application may deliver notification information generated by another application of the electronic device 201 to an external electronic device, or receive notification information from an external electronic device and provide the notification information to a user.
  • the device management application may, for example, turn-on / turn-off of a function of an external electronic device (eg, the external electronic device itself (or some component part) in communication with the electronic device 201). turn-off) or adjust the brightness (or resolution) of the display, or install, delete, or update an application running on the external electronic device.
  • the application 370 may include an application (eg, a health care application of a mobile medical device) designated according to an attribute of the external electronic device.
  • an application eg, a health care application of a mobile medical device
  • the application 370 may include an application received from an external electronic device.
  • At least a portion of the program module 310 may be implemented (eg, executed) in software, firmware, hardware (eg, the processor 210), or a combination of at least two or more thereof, and a module for performing one or more functions; It can include a program, routine, instruction set, or process.
  • module includes a unit composed of hardware, software, or firmware, and includes, for example, logic, logic block, component, or circuit. Can be used interchangeably with such terms.
  • the module may be an integrally formed part or a minimum unit or part of performing one or more functions.
  • Modules may be implemented mechanically or electronically, for example, application-specific integrated circuit (ASIC) chips, field-programmable gate arrays (FPGAs), or known or future developments that perform certain operations. It can include a programmable logic device.
  • ASIC application-specific integrated circuit
  • FPGAs field-programmable gate arrays
  • At least a portion of an apparatus (eg, modules or functions thereof) or method (eg, operations) may be a computer-readable storage medium (eg, memory 130 of FIG. 1 or It may be implemented by instructions stored in the memory 230 of FIG. 2.
  • a processor eg, the processor 120 of FIG. 1 or the processor 210 of FIG. 2
  • the processor may perform a function corresponding to the command.
  • Computer-readable recording media include hard disks, floppy disks, magnetic media (e.g. magnetic tape), optical recording media (e.g. compact disc read only memory), DVD (digital versatile disc), magneto-optical media (eg, floptical disk), internal memory, etc. Instructions may be code generated by the compiler or an interpreter.
  • the module or the program module according to various embodiments of the present disclosure may include at least one or more of the above components, some of them may be omitted, or may further include other components. .
  • the recording medium may include a computer-readable recording medium having recorded thereon a program for executing various methods described below in the processors 120 and 210.
  • operations performed by a module, program module, or other component may be executed sequentially, in parallel, repeatedly, or heuristically, or at least some operations may be executed in a different order, omitted, or otherwise. Actions can be added.
  • FIG. 4 is a diagram illustrating an example of a white balance correction module in an electronic device according to various embodiments of the present disclosure.
  • 5 and 6 are diagrams illustrating color differences between attributes of an object in an electronic device according to various embodiments of the present disclosure.
  • FIG. 4 illustrates classification of attributes (eg, races) for face regions of an image in an electronic device (eg, the electronic devices 101 and 201 of FIG. 1 or 2) according to various embodiments.
  • a white balance correction module 400 associated with controlling the white balance may be described.
  • the white balance correction module 400 may be included as a hardware module or a software module in a processor (eg, the processors 120 and 210, hereinafter, the processor 210 of FIG. 1 or 2). have.
  • the electronic device may include an image signal processor in the processor 210 or may include an image signal processor separately from the processor 210, and the white balance correction module 400 may include a hardware module in the image signal processor. Or it may be included as a software module.
  • the white balance correction module 400 may be a module configured to perform auto white balance (AWB) correction.
  • ABB auto white balance
  • the white balance correction module 400 for providing a white balance function may include a white balance calculator 410, a face white balance calculator 420, and the like. Can be.
  • the face white balance calculator 420 may include an attribute detector 430 including an area analyzer 440, a histogram determiner 450, and the like.
  • the white balance calculator 410 may calculate a general automatic white balance.
  • the automatic white balance function may represent a function of correcting a color difference caused by a difference in color temperature.
  • there may be a difference in expression of colors depending on light (or a light source) during image capturing. For example, when the color temperature is low, the red light is emitted, and when the color temperature is high, the blue light is emitted.
  • the white balance calculator 410 may correct the color temperature of the light so that the ideal white is photographed.
  • White balance gain (WB gain) for reproducing white can be calculated.
  • the white balance calculator 410 may calculate the white balance gain according to the gray area regardless of the presence or absence of a face in the image.
  • the white balance calculator 410 may calculate a white balance gain corresponding to a background in an image, and provide the white balance gain to the face white balance calculator 420.
  • the white balance calculator 410 may be referred to as a first correction module or a first gain generator.
  • the face white balance calculator 420 may calculate an automatic white balance related to the face area in the image. For example, if an image includes a human face, it can be assumed that the face is under a high color temperature light source and the background is under a lower color temperature light source. In this case, if the white balance is adjusted to match the background of the face area, the face color may be expressed as greener than the actual color, for example, as a face without a life.
  • the electronic device may include a face detector (not shown) that detects a face (or face area) in the captured image when the image is captured, and the number of faces based on the face detector is determined. Face related information related to a face count and a face position may be provided to the face white balance calculator 420.
  • the face white balance calculator 420 may calculate a white balance gain for the face area based on the face association information obtained (received) from the face detector. According to various embodiments of the present disclosure, the face white balance calculator 420 may detect a property of a face area in an image and calculate a white balance gain based on the detected property. In various embodiments, an attribute of a facial region (or face) may indicate an indicator related to human race or skin color based on the face. According to an embodiment of the present disclosure, races may be broadly classified into three types of white races, black races, and yellow races, and races may have different reflectances according to wavelengths of skin color.
  • FIG. 5 illustrates an example of a Commission Internationale de l'Eclairage (CIE) color system of skin color according to race of an object of a face region
  • FIG. 6 shows wavelength of skin color according to race.
  • CIE Commission Internationale de l'Eclairage
  • FIG. 5 shows wavelength of skin color according to race.
  • the star reflectance can be shown.
  • the x-axis and the y-axis may represent the amounts of brightness of colors, respectively, and x and y may represent chromaticity as a set.
  • the black species are shifted in the blue direction compared to the yellow race (or white race).
  • the black species has a lower reflectance of the longer wavelength band than the yellow race (or white race) and is bluish compared to the yellow race (or white race).
  • the black species may have a blue color having a long wavelength band reflectance lower than that of a yellow race or a white race.
  • the face white balance calculator 420 may be yellowish in contrast to the actual skin of the black race in consideration of race when applying the face-based automatic white balance (AWB), or, conversely, the yellow race ( Or white race) may be applied differently by racial division to prevent the case from becoming bluish.
  • ALB face-based automatic white balance
  • the face white balance calculator 420 may determine an attribute (eg, race) of a face area in the face-based automatic white balance and express an expression of an original color (eg, race-natural skin color) according to the attribute. Can be improved.
  • the face white balance calculator 420 may include an attribute detector 430.
  • the attribute detector 430 may detect an attribute of the face region in the face-based white balance and calculate a face white balance gain based on the detected attribute.
  • the attribute detector 430 may include a region analyzer 440 for analyzing attributes based on a face region, and a histogram for calculating a ratio of backlight (eg, a bright background and a dark face) based on a histogram.
  • the determination unit 450 may be configured to be included.
  • the area analyzer 440 may determine the property by using a ratio of color information (eg, brightness information, RGB, color temperature, etc.) between the background area and the face area in the image.
  • the electronic device includes a first data whole of the image other than the face region in the image (for example, a color information corresponding to the entire image, RGB stat background) and the second data of the face area in the image (for example, : a color information corresponding to the face area, RGB stat can be used to calculate the ratio of the face). This will be described in detail with reference to the drawings to be described later.
  • the histogram determiner 450 may reflect the backlight ratio to a reference value for attribute classification.
  • the histogram determiner 450 may set a threshold reduce weight for changing the reference value according to the backlight ratio.
  • the backlight ratio can be obtained using a histogram.
  • the histogram can represent the pixel distribution from the dark to the bright parts of the image.
  • the brightness range of the image in the histogram may include 0 to 255, and as the value goes to 0, the image becomes dark and the number goes to 255, indicating that the image is bright.
  • the histogram determination unit 450 reflects the backlight ratio using the histogram data to a reference value (for example, a first reference value for the first attribute determination and a second reference value for the second attribute determination), thereby determining the attribute for attribute classification.
  • a reference value for example, a first reference value for the first attribute determination and a second reference value for the second attribute determination
  • 3 Reference values eg final reference values
  • the electronic device may include a display (for example, the display 160 and 260 of FIG. 1 or 2) and a processor (eg, FIG. 1 or FIG. 2) functionally connected to the display.
  • Processor 120, 210 wherein the processor is configured to acquire an image including one or more objects, determine a first area corresponding to a face among the one or more objects in the image, and determine the one or more objects. Determining a second area corresponding to the background, and checking a ratio between the color information of the first area and the color information of the second area, and when the ratio satisfies the set first condition, the first level is set to the first level.
  • the processor may be configured to determine a backlight ratio in the image and to further correct the white balance corresponding to the first region by further using the backlight ratio.
  • the processor may be configured to determine the backlight ratio based on histogram data calculated from the image.
  • the processor calculates an auto white balance (AWB) of the first area as part of the correcting operation, and corresponds to the first specified condition in the auto white balance.
  • the first level may be corrected to the first level by multiplying the first correction value, or the second level may be corrected to the second level by multiplying a second correction value corresponding to the second specified condition.
  • the electronic device may include a camera module 291, a display (for example, the display 160 and 260 of FIG. 1 or 2), and a processor functionally connected to the camera module and the display.
  • the processor may acquire an image including a face object, distinguish a background area and a face area from the image, and Determine a property, calculate a weight for correcting a white balance based on the property of the face area, correct the white balance based on the weight, and display the image on the display based on the corrected white balance.
  • the attribute of the face area may include an index related to race or skin color corresponding to an object of the face area in the image.
  • the processor may be configured to determine the attribute based on the color information ratio of the face region.
  • the processor determines an object of the face area as a first property and sets the color information ratio of the face area to a second value.
  • the object of the face area may be determined as a second property, and the weight may be determined based on the first property or the second property.
  • the processor may determine a third white balance based on a first white balance gain associated with the background area, a second white balance gain associated with the face area, and a weight according to the attribute,
  • the image may be configured to be provided based on the determined third white balance.
  • the processor calculates a color information ratio of the face area, compares the color information ratio with at least one reference value set for attribute determination, and based on the comparison result, color information. It may be configured to determine whether the ratio is included below the first reference value, above the second reference value, or between the first reference value and the second reference value.
  • the processor may be configured to determine an object of the face area as a third attribute when the color information ratio corresponds between the first reference value and the second reference value.
  • the processor may be configured to calculate the color information ratio based on color information corresponding to the background area.
  • the processor may be configured to change a reference value of brightness information for attribute classification according to a backlight ratio in the image and determine the attribute based on the changed reference value.
  • the processor may calculate a reduce weight for changing the reference value according to the backlight ratio, calculate another reference value using the decrease weight, and color the face region. It may be configured to determine an attribute of the face area based on an information rate and the other reference value.
  • the processor compares the color information ratio and the reference value of the plurality of face regions, and based on the comparison result, the plurality of faces. Determine a first property and a second property corresponding to the areas, and determine a ratio of the number of face areas corresponding to the determined first property and face areas corresponding to the determined second property among the plurality of face areas;
  • the weight value for white balance correction may be calculated based on a ratio of the number of the first attribute and the second attribute.
  • the processor may be configured to determine the weight based on one attribute having a high ratio of the number or to differentially determine the weight according to the degree of the ratio of the number.
  • FIG. 7 is a flowchart illustrating a method of operating an electronic device according to various embodiments of the present disclosure.
  • FIG. 7 calculates a white balance gain based on an attribute (eg, a race) of a face area to correct white balance.
  • an attribute eg, a race
  • An example can be shown.
  • a processor eg, one or more processors including processing circuitry of an electronic device (eg, electronic device 101, 201 of FIG. 1 or 2) (eg, FIG.
  • the processor 120 or 210, hereinafter, the processor 210 of FIG. 1 or FIG. 2 may perform a photographing mode.
  • the processor 210 may enter a shooting mode based on detecting an execution of an application for capturing an image using a camera (eg, the camera module 291 of FIG. 2) based on a user input. Can be.
  • the processor 210 may acquire an image. According to an embodiment of the present disclosure, the processor 210 may acquire an image transmitted through the camera module 291.
  • the processor 210 may detect a face region in the obtained image.
  • the processor 210 may distinguish a face region from a background region in an image based on various face detection (or face recognition) techniques (or algorithms).
  • the processor 210 may detect a face region by extracting a location or a size of feature points.
  • the processor 210 may determine an attribute of the face area.
  • the attribute of the face area may include a race corresponding to a user face corresponding to the face area in the image.
  • the processor 210 may determine an attribute based on a ratio of color information (eg, brightness information, RGB, color temperature, and the like) of the face region. For example, when the ratio of the color information of the face region is less than or equal to the set first reference value, the processor 210 may determine the first attribute (for example, black), and the second criterion in which the ratio of the color information of the face region is set. If the value is greater than or equal to, the second attribute (eg, yellow phosphorus / white) may be determined.
  • the second attribute eg, yellow phosphorus / white
  • the processor 210 may calculate a white balance gain based on the attributes of the face area.
  • the processor 210 may include a first gain (eg, white balance gain associated with an entire image), a second gain (eg, white balance gain associated with a face area of an image), and an attribute ratio according to an attribute (or The final white balance gain can be obtained based on the weight).
  • the attribute ratio may indicate a white balance gain offset (WB gain offset) corresponding to the first attribute (eg, black) or the second attribute (eg, yellow / white).
  • the processor 210 may correct the white balance based on the calculated white balance gain.
  • the processor 210 may display an image on the display based on the corrected white balance.
  • FIG. 8 is a diagram illustrating an example of classifying attributes of a face area in various embodiments of the present disclosure.
  • various embodiments of the present disclosure exemplarily divide the first attribute (eg, black) and the second attribute (eg, yellow / white).
  • a first reference value (eg, Threshold 1) for determining the first attribute and a second reference value (eg, Threshold 2) for determining the second attribute may be set. .
  • the brightness of the first attribute (eg, black) may be relatively dark compared to the second attribute (eg, yellow / white).
  • an attribute determination ratio for the first attribute may be set to "0"
  • an attribute determination ratio for the second attribute may be set to "1".
  • an attribute may be determined using a ratio of color information (eg, brightness information, RGB, color temperature, etc.) between a background area and a face area in an image.
  • first attribute for example, black
  • second attribute for example, yellow / white
  • input data for example, RGB statistics data
  • the electronic device may include first data (for example, color information corresponding to the entire image (for example, image brightness) corresponding to the entire image) except for the face region in the image, and second data (for example, full brightness of the image) in the image.
  • first data for example, color information corresponding to the entire image (for example, image brightness) corresponding to the entire image) except for the face region in the image
  • second data for example, full brightness of the image
  • an attribute ratio may be calculated using a ratio of color information (eg, face region brightness) corresponding to the face region (eg, Equation 1 below).
  • HRR is Properties (race) determines the ratio (human race ratio) may represent (hereinafter properties ratio)
  • L background for example:. RGB stat background
  • L face eg, RGB stat. Face
  • HRR is Properties (race) determines the ratio (human race ratio) may represent (hereinafter properties ratio)
  • L background for example:. RGB stat background
  • L face eg, RGB stat. Face
  • HRR determines the ratio (human race ratio) may represent (hereinafter properties ratio)
  • L background for example:.
  • RGB stat background is the color information corresponding to the entire image ( For example, it may represent the overall brightness of the image
  • L face eg, RGB stat. Face
  • face area brightness corresponding to the face area in the image.
  • the input data (eg, RGB statistics data) is normalized to a standard light source (eg, a light source having a spectrum similar to sunlight) in each of the face region and the face region exclusion region (eg, the background region). It can be converted into a value (L) that can represent brightness information. Normalization adds a normalization gain to the input data (e.g. RGB statistics data) that produces a 1: 1: 1 RAW RGB of gray patches from a standard color chart (e.g. Macbeth chart) taken under standard light sources. Can be multiplied. For example, it may be performed as in Equation 2 below.
  • the final brightness value L may be calculated as shown in Equation 3 below.
  • R ', G', and B ' may be used by weighted summation as shown in ⁇ Equation 3>.
  • the electronic device may use the color information ratio HRR between the background region and the face region calculated based on the first data and the second data, and the color information ratio corresponds to the first reference value. It may be compared and analyzed to correspond to the second reference value. According to various embodiments of the present disclosure, the electronic device may determine an attribute (eg, race) based on a reference value corresponding to the color information ratio. According to an embodiment of the present disclosure, if the color information ratio is less than or equal to the first reference value, the electronic device may determine the first property (for example, black), and if the color information ratio is greater than or equal to the second reference value, the electronic device may be yellow; / White).
  • the first property for example, black
  • interpolation may be used to determine a third attribute (eg, intermediate color information between black and yellow / white color information).
  • the electronic device may have a certain attribute ratio (a first attribute or a second attribute) that is equal to or less than the first reference value or more than the second reference value, regardless of brightness, and the first reference value and the second reference value. Between values, the attribute ratio can be set to have a third attribute by interpolation of the first attribute and the second attribute.
  • a certain attribute ratio a first attribute or a second attribute
  • the electronic device may correspond to a white balance gain offset (eg, first weight) and a second attribute (eg, yellow / white) corresponding to the first attribute (eg, black).
  • the white balance gain offset (eg, the second weight) may be stored and managed as a white balance correction parameter.
  • the electronic device may multiply the white balance gain (eg, the second gain) calculated by the face-based white balance with the white balance gain offset (eg, the weight) according to the property to obtain the final white balance gain (eg, the final correction value). ) Can be calculated.
  • the reference value for determining the attribute may be adjusted in consideration of the backlight ratio. This will be described with reference to FIGS. 9 and 10.
  • 9 and 10 are diagrams for explaining an example of setting a reference value for attribute classification in consideration of backlight in various embodiments of the present disclosure.
  • the backlight ratio may be reflected in a reference value for attribute classification.
  • the electronic device may set a threshold reduce weight for changing the reference value according to the backlight ratio.
  • the backlight ratio can be obtained using a histogram.
  • the histogram can represent the pixel distribution from the dark to the bright parts of the image.
  • the horizontal axis of the histogram graph may include a brightness of an image, and the range may include 0 to 255, and the image may be dark as 0 goes and the image may be light as 255.
  • the backlight ratio using the histogram data is reflected to a reference value (for example, the first reference value for the first attribute determination and the second reference value for the second attribute determination). >, You can set the final reference value for attribute classification.
  • F TH may represent a final reference value
  • Threshold may represent a default reference value according to an attribute
  • Reduce weight may represent a reference value reduction weight based on a backlight ratio.
  • each of the first reference value for determining the first attribute and the second reference value for determining the second attribute may be changed (eg, reduced) according to the reduce weight. This example is shown in FIG. 10.
  • the element 1010 may represent a reference value for each attribute determination ratio (eg, a first reference value and a second reference value) in a state where the backlight ratio is not considered, and the element 1020 may consider the backlight ratio.
  • the reference value for each attribute determination ratio of the state can be represented (eg, third reference value, fourth reference value).
  • the first reference value for determining the existing first attribute (eg, black) may be changed to the third reference value 1030.
  • the second reference value for determining the second attribute eg, yellow / white
  • the fourth reference value 1040 may be changed to the fourth reference value 1040. Accordingly, in various embodiments, even if backlight is present, the second attribute of the face area may be prevented from being misrecognized as the first attribute.
  • FIG. 11 is a flowchart illustrating a method of operating an electronic device according to various embodiments of the present disclosure.
  • FIG. 11 detects an attribute (eg, race) of a face region from an image obtained by an electronic device, calculates a final white balance gain based on the attribute of a face region, and displays an image.
  • an attribute eg, race
  • FIG. 11 detects an attribute (eg, race) of a face region from an image obtained by an electronic device, calculates a final white balance gain based on the attribute of a face region, and displays an image.
  • An example to display can be shown.
  • a processor eg, the processor 120, 210 of FIG. 1 or 2, hereinafter, processor 210) of an electronic device (eg, electronic device 101, 201 of FIG. 1 or 2).
  • the processor 210 may acquire an image transmitted through the camera module 291.
  • the acquired image may include one or more objects and may be a preview image for real-time display through a display.
  • the processor 210 may detect a face region in the obtained image. In various embodiments, the processor 210 may distinguish a face region and a background region in an image based on various face detection techniques (or algorithms).
  • the processor 210 may calculate a ratio of color information of the face area.
  • the processor 210 may include first data (for example, color information corresponding to an entire image) of a background region excluding a face region in an image, and second data (eg, a face) related to a face region in an image A ratio (eg, color information ratio) of the color information corresponding to the area may be calculated.
  • the processor 210 may compare the color information ratio and the reference value. According to an embodiment of the present disclosure, the processor 210 may compare the determined attribute determination ratio with a first reference value for the first attribute, a second reference value for the second attribute, and a third reference value for the third attribute. have. According to an embodiment of the present disclosure, the processor 210 may determine an attribute (eg, an attribute discrimination ratio) according to the color information ratio by using Equation 1 described above.
  • an attribute eg, an attribute discrimination ratio
  • the processor 210 may, based on the comparison result, determine whether the color information ratio is included below the first reference value, above the second reference value, or between the first reference value and the second reference value. It can be determined whether or not included in between.
  • operations 1109 and 1113 may be performed. In various embodiments, operations 1109 and 1113 are not limited to the order shown, and may be performed sequentially, in reverse order, or in parallel.
  • the processor 210 may determine whether the color information ratio is included below the first reference value.
  • operation 1109 when the processor 210 determines that the color information ratio is included below the first reference value (YES in operation 1109), in operation 1111, the object of the face region is set as the first attribute. You can decide.
  • the processor 210 includes the color information ratio above the second reference value. Can be determined.
  • operation 1113 when the processor 210 determines that the color information ratio is equal to or greater than the second reference value (YES in operation 1113), in operation 1115, the object of the face region is set as the second attribute. You can decide.
  • the processor 210 may determine the object of the face area as the third attribute in operation 1117 if the color information ratio is not included above the second reference value (NO in operation 1113). have. According to an embodiment of the present disclosure, the processor 210 determines that the ratio of color information exists between the first reference value and the second reference value, and determines that the object of the face area is an intermediate property between the first property and the second property. It can be judged as three attributes. According to various embodiments of the present disclosure, when the color information ratio is present between the first reference value and the second reference value, the processor 210 may generate the third attribute by interpolation of the first attribute and the second attribute.
  • the processor 210 may calculate a white balance gain based on the determined attribute.
  • the processor 210 may determine a white balance gain offset according to a first attribute, a second attribute, or a third attribute determined by the operation 1111, the operation 1115, or the operation 1117. : Weight) can be determined.
  • the processor 210 may calculate a final white balance gain (eg, a final correction value) by multiplying the face-based white balance gain by the white balance gain offset.
  • the processor 210 may correct the white balance based on the calculated white balance gain.
  • the processor 210 calculates an automatic white balance (AWB) of the face area, multiplies the automatic white balance by a first correction value corresponding to the first attribute, and corrects the white balance at a first level,
  • the white balance may be corrected to the second level by multiplying the automatic white balance by a second correction value corresponding to the second attribute.
  • the processor 210 may display an image on the display based on the corrected white balance.
  • FIG. 12 is a flowchart illustrating a method of operating an electronic device according to various embodiments of the present disclosure.
  • FIG. 12 changes a reference value of brightness information for attribute classification according to a backlight (eg, a background area is bright and a face area is dark) condition (eg, a backlight ratio) of an image. And an example of determining an attribute based on the changed reference value.
  • a backlight eg, a background area is bright and a face area is dark
  • a backlight ratio e.g., a backlight ratio
  • the processor 210 of the electronic device may check the backlight ratio in the image.
  • the processor 210 may determine the backlight ratio using histogram data.
  • the processor 210 may adjust the reference value based on the backlight ratio. According to an embodiment of the present disclosure, as illustrated in Equation 4, the processor 210 may multiply the reference value by a threshold reduce weight for changing the reference value according to the backlight ratio. You can set the reference value.
  • the processor 210 may determine an attribute of the face area based on the color information ratio of the face area and the adjusted reference value.
  • FIG. 13 is a flowchart illustrating a method of operating an electronic device according to various embodiments of the present disclosure.
  • FIG. 13 determines a white balance gain offset (eg, a weight) based on the plurality of face regions, and determines the determined white balance gain.
  • a white balance gain offset eg, a weight
  • An example of calculating the final white balance gain based on the offset may be shown.
  • the processor 210 of the electronic device may identify a face region in the image. According to an embodiment of the present disclosure, the processor 210 may detect a face region in the image and determine the number of detected face regions. According to an embodiment of the present disclosure, the processor 210 may analyze face association information related to face count, face position, and the like in the image. In various embodiments, face association information may be analyzed and provided by the face detector.
  • the processor 210 may determine whether a plurality of face areas are included in the image based on the checking result.
  • the processor 210 may calculate the color information ratio of the face region based on the background region and the face region, and use the calculated color information ratio as a reference value for attribute determination. (Eg, a first reference value for the first attribute, a second reference value for the second attribute, etc.).
  • the processor 210 may determine an attribute corresponding to the object of the face region based on the comparison result. According to an embodiment of the present disclosure, the processor 210 may determine the first attribute when the color information ratio is included below the first reference value, and determine the second attribute when the color information ratio is included above the second reference value. The third attribute may be determined when the color information ratio is included between the first reference value and the second reference value.
  • the processor 210 may calculate a white balance gain based on the determined attribute.
  • the processor 210 may determine a white balance gain offset (eg, a weight) according to the determined first attribute, second attribute, or third attribute.
  • the processor 210 may calculate a final white balance gain (eg, a final correction value) by multiplying the face-based white balance gain by the determined white balance gain offset.
  • the processor 210 determines that the facial region detected in the image is a plurality of facial regions (YES in operation 1303), in operation 1311, the ratio of the color information of the plurality of facial regions may be determined. Reference values can be compared. According to an embodiment of the present disclosure, the processor 210 may calculate a ratio of color information corresponding to a plurality of face areas, such as a first face area, a second face area, and a third face area, in the image. The color information ratio may be compared with a reference value for attribute determination (eg, a first reference value for the first attribute, a second reference value for the second attribute, etc.).
  • a reference value for attribute determination eg, a first reference value for the first attribute, a second reference value for the second attribute, etc.
  • the processor 210 may determine at least one attribute corresponding to the plurality of face regions based on the comparison result. According to an embodiment of the present disclosure, the processor 210 may determine, as a first attribute, at least one face area having a color information ratio of less than or equal to a first reference value in a plurality of face areas, and color information in a plurality of face areas. At least one face area having a ratio greater than or equal to the first reference value may be determined as a second property, and at least one face having color information ratios between the first reference value and the second reference value in the plurality of face areas. The area may be determined as the third attribute.
  • the processor 210 may determine the charge ratio (or ratio of the numbers) of the determined attributes. According to an embodiment of the present disclosure, when at least one first attribute and at least one second attribute are determined based on the plurality of face regions, the processor 210 occupies the first attribute and the second attribute in the plurality of face regions. You can judge the ratio. For example, the processor 210 may determine a ratio of the number of face regions corresponding to the determined first attribute among the plurality of face regions and the face regions corresponding to the determined second attribute. According to an embodiment of the present disclosure, it is assumed that there are five face regions, three face regions having an object of the first attribute, and two face regions having an object of the second attribute, among the plurality of five facial regions. Can be. The processor 210 may determine that a ratio (or ratio of numbers) of the first attribute to the second attribute is relatively high.
  • the processor 210 may calculate the white balance gain based on the charge ratio (or ratio of the number) of the attributes (eg, the first attribute and the second attribute). According to an embodiment of the present disclosure, the processor 210 may determine a white balance gain offset (eg, a weight) according to an attribute having a high charge ratio. According to an embodiment of the present disclosure, the processor 210 may differentially determine a white balance gain offset (eg, a weight) according to the degree of charge ratio. The processor 210 may calculate a final white balance gain (eg, a final correction value) by multiplying the face-based white balance gain by the determined white balance gain offset.
  • a white balance gain offset eg, a weight
  • FIG. 14 is a flowchart illustrating a method of operating an electronic device according to various embodiments of the present disclosure.
  • FIG. 14 distinguishes a face region and a background region from an image obtained by the electronic device, and determines a ratio (eg, color information ratio) set based on the face region and the background region.
  • a ratio eg, color information ratio
  • the white balance may be corrected according to a specified condition (eg, a first property and a second property) where the set ratio is satisfied.
  • the processor 210 of the electronic device may perform image capturing in a photographing mode.
  • the processor 210 may acquire an image based on image capturing. According to an embodiment of the present disclosure, the processor 210 may acquire an image transmitted through the camera module 291. In various embodiments, the acquired image may include one or more objects and may be a preview image for real-time display through a display.
  • the processor 210 may determine a first area (eg, a face area) of one or more objects corresponding to the face in the image.
  • the processor 210 may determine a second area (eg, a background area) corresponding to a background of one or more objects in the image.
  • a second area eg, a background area
  • the processor 210 may identify a ratio set based on the first area and the second area. According to an embodiment of the present disclosure, the processor 210 may identify a ratio between the color information of the first area and the color information of the second area.
  • the color information may include, for example, at least one of brightness information, RGB, or color temperature.
  • the processor 210 may determine whether the ratio satisfies the set first condition. According to an embodiment of the present disclosure, the processor 210 may determine whether the ratio corresponds to a first reference value for determining an attribute corresponding to the object of the first area.
  • the processor 210 may correct the white balance corresponding to the first area to the first level in operation 1413 when the ratio satisfies the first condition (YES in operation 1411). Can be.
  • the processor 210 may include an automatic white balance (AWB) corresponding to the first area (eg, a face-based white balance) and a first correction value corresponding to the first condition (eg, based on the first condition).
  • AVB automatic white balance
  • the white balance may be corrected based on the first level calculated by multiplying the designated white balance gain offset (eg, the first weight).
  • the processor 210 may correct the white balance corresponding to the first area to the second level. Can be.
  • the processor 210 may include a second correction value corresponding to the second condition (eg, a white balance gain offset corresponding to the second condition) to the automatic white balance AWB corresponding to the first area.
  • the white balance may be corrected based on the second level calculated by multiplying the second weight).
  • the processor 210 may control to display, on the display, an image in which the white balance corresponding to the first region is corrected to a corresponding one of the first level and the second level.
  • the processor 210 may determine the backlight ratio based on the histogram data calculated from the image, and correct the white balance corresponding to the first area by using the determined backlight ratio.
  • 15 is a diagram illustrating an example of a white balance correction result in an electronic device according to various embodiments of the present disclosure.
  • example (A) of FIG. 15 illustrates an example of an image to which the white balance correction function is not applied according to various embodiments
  • example (B) of FIG. 15 illustrates a white balance correction function according to various embodiments. An example of this applied image can be shown.
  • the image after the white balance correction of the example (B) may be expressed to be closer to the actual face color, compared to the image before the white balance correction of the example (A).
  • an operation method of an electronic device may include obtaining an image including one or more objects and determining a first area corresponding to a face among the one or more objects in the image. Determining a second area corresponding to a background among the one or more objects, checking a ratio between the color information of the first area and the color information of the second area, and satisfying the set first condition. Correcting the white balance corresponding to the first region at a first level, and correcting the white balance corresponding to the first region at a second level when the ratio satisfies a set second condition. And displaying the image whose white balance corresponding to the first area is corrected with a corresponding one of the first level and the second level. It may include the operation of displaying them through.
  • the correcting operation may include determining a backlight ratio in the image and correcting a white balance corresponding to the first region by further using the backlight ratio.
  • the determining of the backlight ratio may include determining the backlight ratio based on histogram data calculated from the image.
  • the correcting operation may include calculating a reduce weight for changing the first condition and the second condition according to the backlight ratio, and using a third condition using the decrease weight. And calculating a fourth condition, and correcting a white balance corresponding to the first area to the first level when the third condition in which the ratio is changed is satisfied, and the fourth in which the ratio is changed. If the condition is satisfied, the method may include correcting a white balance corresponding to the first area at the second level.
  • the correcting operation may include calculating an auto white balance (AWB) of the first area as part of the correcting operation, and the first specified condition for the automatic white balance. And correcting to the first level by multiplying a first correction value corresponding to, or correcting to the second level by multiplying a second correction value corresponding to the second specified condition.
  • AVB auto white balance

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Image Processing (AREA)

Abstract

본 발명의 다양한 실시 예들은 전자 장치에서 이미지 촬영 시 화이트 밸런스(white balance)를 보정하는 방법 및 장치에 관하여 개시한다. 본 발명의 다양한 실시 예들에 따르면, 디스플레이, 및 상기 디스플레이와 기능적으로 연결된 프로세서를 포함하고, 상기 프로세서는, 하나 이상의 객체들이 포함된 이미지를 획득하고, 상기 이미지에서 상기 하나 이상의 객체들 중 얼굴에 대응하는 제1 영역을 판단하고, 상기 하나 이상의 객체들 중 배경에 대응하는 제2 영역을 판단하고, 상기 제1 영역의 색 정보와 상기 제2 영역의 색 정보 간의 비율을 확인하고, 상기 비율이 설정된 제1 조건을 만족하는 경우, 제1 레벨로 상기 제1 영역에 대응하는 화이트 밸런스를 보정하고, 상기 비율이 설정된 제2 조건을 만족하는 경우, 제2 레벨로 상기 제1 영역에 대응하는 화이트 밸런스를 보정하고, 및 상기 제1 레벨 및 상기 제2 레벨 중 대응하는 하나의 레벨로 상기 제1 영역에 대응하는 화이트 밸런스가 보정된 상기 이미지를 상기 디스플레이를 통해 표시하도록 구성할 수 있다. 다양한 실시 예들이 가능하다.

Description

전자 장치의 화이트 밸런스 기능 제어 방법 및 장치
본 발명의 다양한 실시 예들은 전자 장치에서 이미지 촬영 시 화이트 밸런스(white balance)를 보정하는 방법 및 장치에 관하여 개시한다.
최근 디지털 기술의 발달과 함께 이동통신 단말기, 스마트폰(smart phone), 태블릿(tablet) PC(personal computer), 노트북(notebook), PDA(personal digital assistant), 웨어러블 장치(wearable device), 디지털 카메라(digital camera) 또는 개인용 컴퓨터(personal computer) 등과 같은 다양한 유형의 전자 장치가 널리 사용되고 있다.
최근에는, 전자 장치에서 통화 기능 및 멀티미디어 재생 기능(예: 음악 재생, 동영상 재생)뿐만 아니라, 이미지 촬영 기능을 제공하고 있다. 전자 장치는 이미지 촬영 기능을 제공할 때, 다양한 이미지 시그널 처리(image signal processing)(예: 색 보정 처리 등)를 수행하여 사용자가 원하는 이미지를 획득할 수 있도록 발전하고 있다. 예를 들면, 전자 장치는 자동 화이트 밸런스(AWB, auto white balance) 기능을 통해 임의의 광원 하에서 가장 적절한 색을 표현할 수 있도록 하고 있다. 한 실시 예에 따르면, 전자 장치의 카메라 센서(예: 이미지 센서)로 들어오는 빛은 광원의 스펙트럼과 물체의 반사스펙트럼에 따라 달라지게 되고, 흰색이나 회색 객체(object)가, 낮은 색 온도 광원이나 높은 색 온도 광원에 노출될 경우, 낮은 색 온도 광원에서는 붉게, 높은 색 온도 광원에서는 푸르게 표현될 수 있다. 전자 장치에서는, 이를 보정하기 위해(예: 흰색이 흰색으로 표현되도록 하기 위해) 자동 화이트 밸런스 기능이 제공되고 있다.
하지만, 기존의 자동 화이트 밸런스 기능은 이미지 내에 얼굴의 존재 유무에 상관없이 이미지 전체에 대하여 화이트 밸런스를 적용하고 있다. 따라서 얼굴이 존재하는 이미지에서, 예를 들면, 얼굴이 높은 색 온도 광원 하에 있고, 배경이 그 보다 낮은 색 온도 광원 하에 있을 경우, 배경에 맞게 화이트 밸런스가 조절되어, 얼굴 색이 실제보다 다르게(예: 푸르게) 표현될 수 있다. 또한, 기존의 자동 화이트 밸런스 기능은 흑인, 백인, 황인 등과 같이 피부색이 다른 인물들을 포함하는 이미지에 대해서도 동일하게 화이트 밸런스를 적용함에 따라, 만약 흑인이나 백인(또는 황인)의 어느 한쪽에 기준을 두고 화이트 밸런스를 적용하는 경우, 흑인의 피부색이 실제 대비 누르스름(yellowish)하게 표현될 수 있고, 반대로 백인이나 황인의 피부색이 실제 대비 푸르스름(bluish)하게 표현되는 문제가 있다.
다양한 실시 예들에서는, 전자 장치에서 촬영하는 이미지의 화이트 밸런스 기능을 개선하기 위한 방법 및 장치에 관하여 개시한다.
다양한 실시 예들에서는, 이미지에서 얼굴 영역의 속성(예: 인종(human race))을 검출하고, 검출된 속성에 기반하여 화이트 밸런스를 제어하는 방법 및 장치에 관하여 개시한다.
본 발명의 다양한 실시 예들에 따른 전자 장치는, 디스플레이, 및 상기 디스플레이와 기능적으로 연결된 프로세서를 포함하고, 상기 프로세서는, 하나 이상의 객체들이 포함된 이미지를 획득하고, 상기 이미지에서 상기 하나 이상의 객체들 중 얼굴에 대응하는 제1 영역을 판단하고, 상기 하나 이상의 객체들 중 배경에 대응하는 제2 영역을 판단하고, 상기 제1 영역의 색 정보와 상기 제2 영역의 색 정보 간의 비율을 확인하고, 상기 비율이 설정된 제1 조건을 만족하는 경우, 제1 레벨로 상기 제1 영역에 대응하는 화이트 밸런스를 보정하고, 상기 비율이 설정된 제2 조건을 만족하는 경우, 제2 레벨로 상기 제1 영역에 대응하는 화이트 밸런스를 보정하고, 및 상기 제1 레벨 및 상기 제2 레벨 중 대응하는 하나의 레벨로 상기 제1 영역에 대응하는 화이트 밸런스가 보정된 상기 이미지를 상기 디스플레이를 통해 표시하도록 구성할 수 있다.
본 발명의 다양한 실시 예들에 따른 전자 장치는, 카메라 모듈, 디스플레이, 및 상기 카메라 모듈 및 상기 디스플레이와 기능적으로 연결된 프로세서를 포함하고, 상기 프로세서는, 얼굴 객체가 포함된 이미지를 획득하고, 상기 이미지에서 배경 영역과 얼굴 영역을 구분하고, 상기 얼굴 영역에 대한 속성을 결정하고, 상기 얼굴 영역의 속성에 기반하여 화이트 밸런스를 보정하기 위한 가중치를 산출하고, 상기 가중치에 기반하여 상기 화이트 밸런스를 보정하고, 보정된 화이트 밸런스에 기반하여 상기 이미지를 상기 디스플레이를 통해 표시하도록 구성할 수 있다.
본 발명의 다양한 실시 예들에 따른 전자 장치의 동작 방법은, 하나 이상의 객체들이 포함된 이미지를 획득하는 동작, 상기 이미지에서 상기 하나 이상의 객체들 중 얼굴에 대응하는 제1 영역을 판단하는 동작, 상기 하나 이상의 객체들 중 배경에 대응하는 제2 영역을 판단하는 동작, 상기 제1 영역의 색 정보와 상기 제2 영역의 색 정보 간의 비율을 확인하는 동작, 상기 비율이 설정된 제1 조건을 만족하는 경우, 제1 레벨로 상기 제1 영역에 대응하는 화이트 밸런스를 보정하는 동작, 상기 비율이 설정된 제2 조건을 만족하는 경우, 제2 레벨로 상기 제1 영역에 대응하는 화이트 밸런스를 보정하는 동작, 및 상기 제1 레벨 및 상기 제2 레벨 중 대응하는 하나의 레벨로 상기 제1 영역에 대응하는 화이트 밸런스가 보정된 상기 이미지를 디스플레이를 통해 표시하는 동작을 포함할 수 있다.
상기와 같은 과제를 해결하기 위하여 본 발명의 다양한 실시 예들에서는, 상기 방법을 프로세서에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 판독 가능한 기록 매체를 포함할 수 있다.
다양한 실시 예들에 따른 전자 장치 및 그의 동작 방법에 따르면, 이미지에서 얼굴 영역을 검출하고, 얼굴 영역의 객체에 대응하는 속성(예: 인종)을 구분할 수 있다. 다양한 실시 예들에 따르면, 이미지에서 얼굴 영역에 객체에 대응하는 속성에 기반하여 화이트 밸런스를 차등적으로 제공할 수 있다. 이를 통해, 다양한 실시 예들에서는, 전자 장치에서 촬영하는 이미지의 화이트 밸런스 성능을 향상할 수 있다. 다양한 실시 예들에 따르면, 얼굴이 존재하는 이미지에서, 인종 구분을 통해 화이트 밸런스를 보정함에 따라, 인종에 따른 피부색을 보다 원색에 가깝도록 표현할 수 있다. 다양한 실시 예들에 따른 전자 장치에 의해, 전자 장치의 사용성, 편의성, 또는 활용성을 향상시키는데 기여할 수 있다.
도 1은 본 발명의 다양한 실시 예들에 따른 전자 장치를 포함하는 네트워크 환경을 도시하는 도면이다.
도 2는 본 발명의 다양한 실시 예들에 따른 전자 장치의 블록도이다.
도 3은 본 발명의 다양한 실시 예들에 따른 프로그램 모듈의 블록도이다.
도 4는 본 발명의 다양한 실시 예들에 따른 전자 장치에서 화이트 밸런스 보정 모듈의 예를 도시하는 도면이다.
도 5 및 도 6은 본 발명의 다양한 실시 예들에 따른 전자 장치에서 객체의 속성 간의 색 차이를 설명하기 위해 도시하는 도면들이다.
도 7은 본 발명의 다양한 실시 예들에 따른 전자 장치의 동작 방법을 도시하는 흐름도이다.
도 8은 본 발명의 다양한 실시 예들에서 얼굴 영역의 속성을 구분하는 예를 설명하기 위해 도시하는 도면이다.
도 9 및 도 10은 본 발명의 다양한 실시 예들에서 역광을 고려하여 속성 구분을 위한 기준 값을 설정하는 예를 설명하기 위해 도시하는 도면들이다.
도 11은 본 발명의 다양한 실시 예들에 따른 전자 장치의 동작 방법을 도시하는 흐름도이다.
도 12는 본 발명의 다양한 실시 예들에 따른 전자 장치의 동작 방법을 도시하는 흐름도이다.
도 13은 본 발명의 다양한 실시 예들에 따른 전자 장치의 동작 방법을 도시하는 흐름도이다.
도 14는 본 발명의 다양한 실시 예들에 따른 전자 장치의 동작 방법을 도시하는 흐름도이다.
도 15는 본 발명의 다양한 실시 예들에 따른 전자 장치에서 화이트 밸런스 보정 결과의 예를 도시하는 도면이다.
이하, 본 문서의 다양한 실시 예들이 첨부된 도면을 참조하여 기재된다. 실시 예 및 이에 사용된 용어들은 본 문서에 기재된 기술을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 해당 실시 예의 다양한 변경, 균등물, 및/또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다.
단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 본 문서에서, "A 또는 B" 또는 "A 및/또는 B 중 적어도 하나" 등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. "제 1", "제 2", "첫째", 또는 "둘째" 등의 표현들은 해당 구성요소들을, 순서 또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에 "(기능적으로 또는 통신적으로) 연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제 3 구성요소)를 통하여 연결될 수 있다.
본 문서에서, "~하도록 구성된(또는 설정된)(configured to)"은 상황에 따라, 예를 들면, 하드웨어(hardware)적 또는 소프트웨어(software)적으로 "~에 적합한", "~하는 능력을 가지는", "~하도록 변경된", "~하도록 만들어진", "~를 할 수 있는", 또는 "~하도록 설계된"과 상호 호환적으로(interchangeably) 사용될 수 있다. 어떤 상황에서는, "~하도록 구성된 장치"라는 표현은, 그 장치가 다른 장치 또는 부품들과 함께 "~할 수 있는" 것을 의미할 수 있다. 예를 들면, 문구 "A, B, 및 C를 수행하도록 구성된(또는 설정된) 프로세서"는 해당 동작을 수행하기 위한 전용 프로세서(예: 임베디드 프로세서), 또는 메모리 장치에 저장된 하나 이상의 소프트웨어 프로그램들을 실행함으로써, 해당 동작들을 수행할 수 있는 범용 프로세서(generic-purpose processor)(예: CPU(central processing unit) 또는 AP(application processor))를 의미할 수 있다.
본 문서의 다양한 실시 예들에 따른 전자 장치는, 예를 들면, 스마트폰, 태블릿(tablet) PC(personal computer), 이동 전화기, 영상 전화기, 전자책 리더기, 데스크탑(desktop) PC, 랩탑(laptop) PC, 넷북(netbook) 컴퓨터, 워크스테이션(workstation), 서버(server), PDA(personal digital assistant), PMP(portable multimedia player), MP3(MPEG-1 Audio Layer-3) 플레이어, 의료기기, 카메라, 또는 웨어러블 장치(wearable device) 중 적어도 하나를 포함할 수 있다. 웨어러블 장치는 액세서리형(예: 시계, 반지, 팔찌, 발찌, 목걸이, 안경, 콘택트 렌즈, 또는 머리 착용형 장치(HMD, head-mounted-device), 직물 또는 의류 일체형(예: 전자 의복), 신체 부착형(예: 스킨 패드(skin pad) 또는 문신), 또는 생체 이식형 회로(implantable circuit) 중 적어도 하나를 포함할 수 있다.
어떤 실시 예들에서, 전자 장치는, 예를 들면, 텔레비전, DVD(digital video disk) 플레이어, 오디오, 냉장고, 에어컨, 청소기, 오븐, 전자레인지, 세탁기, 공기 청정기, 셋톱 박스, 홈 오토메이션 컨트롤 패널, 보안 컨트롤 패널, 미디어 박스(예: 삼성 HomeSyncTM, 애플TVTM, 또는 구글 TVTM), 게임 콘솔(예: XboxTM, PlayStationTM), 전자 사전, 전자 키, 캠코더, 또는 전자 액자 중 적어도 하나를 포함할 수 있다.
다른 실시 예에서, 전자 장치는, 각종 의료기기(예: 각종 휴대용 의료측정기기(예: 혈당 측정기, 심박 측정기, 혈압 측정기, 또는 체온 측정기 등), MRA(magnetic resonance angiography), MRI(magnetic resonance imaging), CT(computed tomography), 촬영기, 또는 초음파기 등), 네비게이션 장치, 위성 항법 시스템(GNSS, global navigation satellite system), EDR(event data recorder), FDR(flight data recorder), 자동차 인포테인먼트 장치(in-vehicle infotainment device, automotive infotainment device), 선박용 전자 장비(예: 선박용 항법 장치, 자이로 콤파스 등), 항공 전자기기(avionics), 보안 기기, 차량용 헤드 유닛(head unit), 산업용 또는 가정용 로봇, 드론(drone), 금융 기관의 ATM(automated teller machine), 상점의 POS(point of sales), 또는 사물 인터넷(IoT, internet of things) 장치(예: 전구, 각종 센서, 스프링클러 장치, 화재 경보기, 온도조절기, 가로등, 토스터, 운동기구, 온수탱크, 히터, 보일러 등) 중 적어도 하나를 포함할 수 있다.
어떤 실시 예에 따르면, 전자 장치는 가구, 건물/구조물 또는 자동차의 일부, 전자 보드(electronic board), 전자 사인 수신 장치(electronic signature(digital signature) receiving device), 프로젝터, 또는 각종 계측 기기(예: 수도, 전기, 가스, 또는 전파 계측 기기 등) 중 적어도 하나를 포함할 수 있다. 다양한 실시 예들에서, 전자 장치는 플렉서블(flexible)하거나, 또는 전술한 다양한 장치들 중 둘 이상의 조합일 수 있다. 본 문서의 실시 예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다. 본 문서에서, 사용자라는 용어는 전자 장치를 사용하는 사람 또는 전자 장치를 사용하는 장치(예: 인공지능 전자 장치)를 지칭할 수 있다.
도 1은 다양한 실시 예들에 따른 전자 장치를 포함하는 네트워크 환경을 도시하는 도면이다.
도 1을 참조하여, 다양한 실시 예들에서의, 네트워크 환경(100) 내의 전자 장치(101)가 기재된다. 전자 장치(101)는 버스(bus)(110), 프로세서(120)(예: 프로세싱 회로(processing circuitry)를 포함하는 프로세서), 메모리(130), 입출력 인터페이스(150), 디스플레이(160), 및 통신 인터페이스(170)를 포함할 수 있다. 어떤 실시 예에서, 전자 장치(101)는, 구성요소들 중 적어도 하나를 생략하거나 다른 구성요소를 추가적으로 구비할 수 있다.
버스(110)는 구성요소들(110-170)을 서로 연결하고, 구성요소들 간의 통신(예: 제어 메시지 또는 데이터)을 전달하는 회로를 포함할 수 있다.
프로세서(120)는, 중앙처리장치(CPU), 어플리케이션 프로세서(AP), 또는 커뮤니케이션 프로세서(CP, communication processor) 중 하나 또는 그 이상을 포함할 수 있다. 프로세서(120)는, 예를 들면, 전자 장치(101)의 적어도 하나의 다른 구성요소들의 제어 및/또는 통신에 관한 연산이나 데이터 처리를 실행할 수 있다. 다양한 실시 예들에 따른 프로세서(120)의 처리(또는 제어) 동작은 후술하는 도면들을 참조하여 구체적으로 설명된다.
메모리(130)는, 휘발성 메모리(volatile memory) 및/또는 비휘발성 메모리(non-volatile memory)를 포함할 수 있다. 메모리(130)는, 예를 들면, 전자 장치(101)의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 저장할 수 있다. 한 실시 예에 따르면, 메모리(130)는 소프트웨어 및/또는 프로그램(140)을 저장할 수 있다. 프로그램(140)은, 예를 들면, 커널(kernel)(141), 미들웨어(middleware)(143), 어플리케이션 프로그래밍 인터페이스(API, application programming interface)(145), 및/또는 어플리케이션 프로그램(application program)(또는 "어플리케이션")(147) 등을 포함할 수 있다. 커널(141), 미들웨어(143), 또는 API(145)의 적어도 일부는, 운영 시스템(OS, operating system)으로 지칭될 수 있다.
메모리(130)는, 프로세서(120)에 의해 실행되는 하나 또는 그 이상의 프로그램들(one or more programs)을 저장할 수 있고, 입/출력되는 데이터들의 임시 저장을 위한 기능을 수행할 수도 있다. 입/출력되는 데이터들은, 예를 들면, 동영상, 이미지(예: 사진), 기능(또는 어플리케이션) 수행 관련 정보, 또는 오디오 등의 데이터를 포함할 수 있다. 다양한 실시 예들에 따라, 메모리(130)는 획득된 데이터를 저장하는 역할을 담당하며, 실시간으로 획득된 데이터는 일시적인 저장 장치(예: 버퍼(buffer))에 저장할 수 있고, 저장하기로 확정된 데이터는 오래 보관 가능한 저장 장치에 저장할 수 있다. 메모리(130)는, 다양한 실시 예들에 따른 방법을 프로세서(120)에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 판독 가능한 기록 매체를 포함할 수 있다.
커널(141)은, 예를 들면, 다른 프로그램들(예: 미들웨어(143), API(145), 또는 어플리케이션 프로그램(147))에 구현된 동작 또는 기능을 실행하는 데 사용되는 시스템 리소스들(예: 버스(110), 프로세서(120), 또는 메모리(130) 등)을 제어 또는 관리할 수 있다. 또한, 커널(141)은 미들웨어(143), API(145), 또는 어플리케이션 프로그램(147)에서 전자 장치(101)의 개별 구성요소에 접근함으로써, 시스템 리소스들을 제어 또는 관리할 수 있는 인터페이스를 제공할 수 있다.
미들웨어(143)는, 예를 들면, API(145) 또는 어플리케이션 프로그램(147)이 커널(141)과 통신하여 데이터를 주고받을 수 있도록 중개 역할을 수행할 수 있다. 또한, 미들웨어(143)는 어플리케이션 프로그램(147)으로부터 수신된 하나 이상의 작업 요청들을 우선 순위에 따라 처리할 수 있다. 예를 들면, 미들웨어(143)는 어플리케이션 프로그램(147) 중 적어도 하나에 전자 장치(101)의 시스템 리소스(예: 버스(110), 프로세서(120), 또는 메모리(130) 등)를 사용할 수 있는 우선 순위를 부여하고, 하나 이상의 작업 요청들을 처리할 수 있다.
API(145)는 어플리케이션(147)이 커널(141) 또는 미들웨어(143)에서 제공되는 기능을 제어하기 위한 인터페이스로, 예를 들면, 파일(file) 제어, 윈도우(window) 제어, 영상(image) 처리, 또는 문자(character) 제어 등을 위한 적어도 하나의 인터페이스 또는 함수(function)(예: 명령어)를 포함할 수 있다.
입출력 인터페이스(150)는, 예를 들면, 사용자 또는 외부 기기로부터 입력된 명령 또는 데이터를 전자 장치(101)의 다른 구성요소(들)에 전달하거나, 또는 전자 장치(101)의 다른 구성요소(들)로부터 수신된 명령 또는 데이터를 사용자 또는 외부 기기로 출력할 수 있다. 예를 들면, 유/무선 헤드폰 포트(port), 외부 충전기 포트, 유/무선 데이터 포트, 메모리 카드(memory card) 포트, 오디오 입/출력(input/output) 포트, 비디오 입/출력 포트, 이어폰 포트 등이 입출력 인터페이스(150)에 포함될 수 있다.
디스플레이(160)는, 예를 들면, 액정 디스플레이(LCD, liquid crystal display), 발광 다이오드(LED, light emitting diode) 디스플레이, 유기 발광 다이오드(OLED, organic LED) 디스플레이, 능동형 OLED(AMOLED, active matrix OLED), 마이크로 전자기계 시스템(MEMS, micro-electromechanical systems) 디스플레이, 또는 전자종이(electronic paper) 디스플레이 등을 포함할 수 있다. 디스플레이(160)는, 예를 들면, 사용자에게 각종 콘텐츠(예: 텍스트, 이미지, 비디오, 아이콘, 및/또는 심볼 등)를 표시할 수 있다. 디스플레이(160)는, 터치 스크린(touchscreen)을 포함할 수 있으며, 예를 들면, 전자 펜 또는 사용자의 신체의 일부를 이용한 터치(touch), 제스처(gesture), 근접(proximity), 또는 호버링(hovering) 입력을 수신할 수 있다.
디스플레이(160)는, 예를 들면, 사용자에게 시각적인 출력(visual output)을 보여줄 수 있다. 시각적 출력은 텍스트(text), 그래픽(graphic), 비디오(video)와 이들의 조합의 형태로 나타날 수 있다. 디스플레이(160)는 전자 장치(101)에서 처리되는 다양한 정보를 표시(출력)할 수 있다. 예를 들면, 디스플레이(160)는 전자 장치(101)의 사용과 관련된 유저 인터페이스(UI, user interface) 또는 그래픽 유저 인터페이스(GUI, graphical UI)를 표시할 수 있다. 다양한 실시 예들에 따라, 디스플레이(160)는 전자 장치(101)에 의해 수행되는 동작(예: 컨텐츠 표시 동작, 상태 정보 표시 동작 등)과 관련된 다양한 유저 인터페이스(예: UI 또는 GUI)를 표시할 수 있다.
다양한 실시 예들에서 디스플레이(160)는 평면형 디스플레이 또는 종이처럼 얇고 유연한 기판을 통해 손상 없이 휘거나 구부리거나 말 수 있는 커브드 디스플레이(curved display)(또는 벤디드 디스플레이(bended display))를 포함할 수 있다. 커브드 디스플레이는 하우징(또는 베젤(bezel), 본체)에 체결되어 구부러진 형태를 유지할 수 있다. 다양한 실시 예들에서 전자 장치(101)는 커브드 디스플레이와 같은 형태를 비롯하여, 플렉서블 디스플레이와 같이 구부렸다가 폈다가를 자유자재로 할 수 있는 디스플레이 장치로 구현될 수도 있다.
다양한 실시 예들에서 디스플레이(160)는 액정 디스플레이(LCD), 발광 다이오드(LED), 유기 발광 다이오드(OLED), 또는 능동형 OLED(AMOLED) 등에서 액정을 싸고 있는 유리 기판을 플라스틱 필름으로 대체하여, 접고 펼 수 있는 유연성을 부여할 수 있다. 다양한 실시 예들에서 디스플레이(160)는 전자 장치(101)의 적어도 하나의 측면(side)(예: 좌측, 우측, 상측, 하측 중 적어도 하나의 면)까지 연장되어, 커브드 디스플레이가 동작 가능한 곡률 반경(radius of curvature)(예: 곡률 반경 5cm, 1cm, 7.5mm, 5mm, 4mm 등) 이하로 접혀 하우징의 측면에 체결될 수 있다. 이에 한정하지 않으며, 다양한 실시 예들에 따른 디스플레이(160)는 곡률 반경이 없는 직각 형태로 구현할 수도 있다.
통신 인터페이스(170)는, 예를 들면, 전자 장치(101)와 외부 장치(예: 제 1 외부 전자 장치(102), 제 2 외부 전자 장치(104), 또는 서버(106)) 간의 통신을 설정할 수 있다. 예를 들면, 통신 인터페이스(170)는 무선 통신 또는 유선 통신을 통해서 네트워크(162)에 연결되어 외부 장치와 통신할 수 있다.
무선 통신은, 예를 들면, LTE(long term evolution), LTE-A(LTE Advance), CDMA(code division multiple access), WCDMA(wideband CDMA), UMTS(universal mobile telecommunications system), WiBro(wireless broadband), 또는 GSM(global system for mobile communications) 등 중 적어도 하나를 사용하는 셀룰러 통신을 포함할 수 있다.
한 실시 예에 따르면, 무선 통신은, 예를 들면, 도 1의 엘리먼트(element) 164로 예시된 바와 같이, WiFi(wireless fidelity), LiFi(light fidelity), WiGig(wireless gigabit alliance), 블루투스(Bluetooth), 블루투스 저전력(BLE, Bluetooth low energy), 지그비(Zigbee), NFC(near field communication), 자력 시큐어 트랜스미션(magnetic secure transmission), 라디오 프리퀀시(RF, radio frequency), 또는 보디 에어리어 네트워크(BAN, body area network) 중 적어도 하나를 포함할 수 있다.
한 실시 예에 따르면, 무선 통신은 GNSS를 포함할 수 있다. GNSS는, 예를 들면, GPS(global positioning system), Glonass(global navigation satellite system), Beidou Navigation Satellite System(이하 "Beidou") 또는 Galileo, the European global satellite-based navigation system일 수 있다. 이하, 본 문서에서, "GPS"는 "GNSS"와 상호 호환적으로 사용될 수 있다.
유선 통신은, 예를 들면, USB(universal serial bus), HDMI(high definition multimedia interface), RS-232(recommended standard 232), 전력선 통신(power line communication), 또는 POTS(plain old telephone service) 등 중 적어도 하나를 포함할 수 있다.
네트워크(162)는 텔레커뮤니케이션 네트워크(telecommunications network), 예를 들면, 컴퓨터 네트워크(예: LAN(local area network) 또는 WAN(wide area network)), 인터넷, 또는 텔레폰 네트워크(telephone network) 중 적어도 하나를 포함할 수 있다.
제1 외부 전자 장치(102) 및 제2 외부 전자 장치(104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 다양한 실시 예들에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 하나 또는 복수의 외부 장치(예: 전자 장치(102, 104), 또는 서버(106))에서 실행될 수 있다.
한 실시 예에 따르면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로 또는 요청에 의하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 그와 연관된 적어도 일부 기능을 다른 전자 장치(예: 전자 장치(102, 104), 또는 서버(106))에게 요청할 수 있다. 다른 전자 장치(예: 전자 장치(102, 104), 또는 서버(106))는 요청된 기능 또는 추가 기능을 실행하고, 그 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 수신된 결과를 그대로 또는 추가적으로 처리하여 요청된 기능이나 서비스를 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅(cloud computing), 분산 컴퓨팅(distributed computing), 또는 클라이언트-서버 컴퓨팅(client-server computing) 기술이 이용될 수 있다.
서버(106)는, 예를 들면, 통합 서버(integration server), 프로바이더 서버(provider server)(또는 통신 사업자 서버), 콘텐츠 서버(content server), 인터넷 서버(internet server), 클라우드 서버(cloud server), 웹 서버(web server), 보안 서버(secure server), 또는 인증 서버(certification server) 등 중 적어도 하나를 포함할 수 있다.
도 2는 다양한 실시 예들에 따른 전자 장치의 블록도이다.
전자 장치(201)는, 예를 들면, 도 1에 도시된 전자 장치(101)의 전체 또는 일부를 포함할 수 있다. 전자 장치(201)는 하나 이상의 프로세서(210)(예: AP), 통신 모듈(220), 가입자 식별 모듈(224), 메모리(230), 센서 모듈(240), 입력 장치(250), 디스플레이(260), 인터페이스(270), 오디오 모듈(280), 카메라 모듈(291), 전력 관리 모듈(295), 배터리(296), 인디케이터(297), 및 모터(298)(예: 진동 모터) 등을 포함할 수 있다.
다양한 실시 예들에서, 전자 장치(201)는 도 2에 도시된 구성들이 필수적인 것은 아니어서, 도 2에 도시된 구성들보다 많은 구성들을 가지거나, 또는 그보다 적은 구성들을 가지는 것으로 구현될 수 있다. 예를 들어, 다양한 실시 예들에 따른 전자 장치(201)는 그 종류에 따라, 어느 일부 구성요소를 포함하지 않을 수 있다. 다양한 실시 예들에 따라, 전술한 전자 장치(201)의 구성들은 전자 장치(201)의 하우징(또는 베젤, 본체)에 안착되거나, 또는 그 외부에 형성될 수 있다.
프로세서(210)는, 예를 들면, 운영 체제 또는 어플리케이션 프로그램을 구동하여 프로세서(210)에 연결된 다수의 하드웨어 또는 소프트웨어 구성요소들을 제어할 수 있고, 각종 데이터 처리 및 연산을 수행할 수 있다. 프로세서(210)는, 예를 들면, SoC(system on chip)로 구현될 수 있다. 한 실시 예에 따르면, 프로세서(210)는 GPU(graphic processing unit) 및/또는 이미지 시그널 프로세서(ISP, image signal processor)를 더 포함할 수 있다.
프로세서(210)는 도 2에 도시된 구성요소들 중 적어도 일부(예: 셀룰러 모듈(221))를 포함할 수도 있다. 프로세서(210)는 다른 구성요소들(예: 비휘발성 메모리) 중 적어도 하나로부터 수신된 명령 또는 데이터를 휘발성 메모리에 로드(load)하여 처리하고, 결과 데이터를 비휘발성 메모리에 저장할 수 있다.
다양한 실시 예들에서, 프로세서(210)는, 하나 또는 그 이상의 프로세서들(one or more processors)을 포함할 수 있다. 예를 들면, 프로세서(210)는 커뮤니케이션 프로세서(CP), 어플리케이션 프로세서(AP), 인터페이스(예: GPIO, general purpose input/output), 또는 내부 메모리 등을 별개의 구성요소로 포함하거나, 또는 하나 이상의 집적화된 회로에 집적화될 수 있다. 한 실시 예에 따라, 어플리케이션 프로세서는 여러 가지의 소프트웨어 프로그램(software program)을 실행하여 전자 장치(201)를 위한 여러 기능을 수행할 수 있고, 커뮤니케이션 프로세서는 음성 통신 및 데이터 통신을 위한 처리 및 제어를 수행할 수 있다. 프로세서(210)는 메모리(230)에 저장되어 있는 특정한 소프트웨어 모듈(예: 명령어 세트(instruction set))을 실행하여 그 모듈에 대응하는 특정한 여러 가지의 기능을 수행하는 역할을 담당할 수 있다.
다양한 실시 예들에서, 프로세서(210)는 전자 장치(201)의 전반적인 동작을 제어할 수 있다. 다양한 실시 예들에서, 프로세서(210)는 오디오 모듈(280), 인터페이스(270), 디스플레이(260), 카메라 모듈(291), 통신 모듈(220), 전력 관리 모듈(295), 센서 모듈(240), 또는 모터(298) 등의 하드웨어적 모듈의 동작을 제어할 수 있다. 다양한 실시 예들에 따라, 프로세서(210)는 전자 장치(201)의 디스플레이(260), 메모리(230), 통신 모듈(220), 인터페이스(270), 및/또는 카메라 모듈(291)과 전기적으로 연결될 수 있다.
다양한 실시 예들에 따라, 프로세서(210)는 이미지에서 얼굴 영역을 검출하고, 얼굴 영역의 속성(예: 인종 정보)을 구분하고, 속성에 기반하여 화이트 밸런스 보정을 수행하는 것과 관련된 동작을 처리할 수 있다. 다양한 실시 예들에 따르면, 프로세서(210)는 하나 또는 그 이상의 객체들이 포함된 이미지를 획득하고, 이미지에서 하나 또는 그 이상의 객체들 중 얼굴에 대응하는 제1 영역을 판단하고, 하나 또는 그 이상의 객체들 중 배경에 대응하는 제2 영역을 판단하는 것과 관련된 동작을 처리할 수 있다. 다양한 실시 예들에 따르면, 프로세서(210)는 제1 영역의 색 정보와 제2 영역의 색 정보 간의 비율(또는 차이 값)을 확인하고, 비율이 설정된 제1 조건을 만족하는 경우 제1 레벨로 제1 영역에 대응하는 화이트 밸런스를 보정하고, 비율이 제2 조건을 만족하는 경우 제2 레벨로 제1 영역에 대응하는 화이트 밸런스를 보정하는 것과 관련된 동작을 처리할 수 있다. 다양한 실시 예들에 따르면, 프로세서(210)는 제1 레벨 및 제2 레벨 중 대응하는 하나의 레벨로 제1 영역에 대응하는 화이트 밸런스가 보정된 이미지를 디스플레이(260)를 통해 표시하도록 하는 것과 관련된 동작을 처리할 수 있다.
다양한 실시 예들에 따른 프로세서(210)의 처리(또는 제어) 동작은 후술하는 도면들을 참조하여 구체적으로 설명된다.
통신 모듈(220)은, 예를 들면, 도 1에 도시된 통신 인터페이스(170)와 동일 또는 유사한 구성을 가질 수 있다. 통신 모듈(220)은, 예를 들면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227), NFC 모듈(228) 및 RF 모듈(229)을 포함할 수 있다. 도시하지는 않았으나, 통신 모듈(220)은, 예를 들면, WiGig 모듈(미도시)을 더 포함할 수도 있다. 한 실시 예에 따라, WiFi 모듈(223)과 WiGig 모듈(미도시)은 하나의 칩 형태로 통합 구현될 수도 있다.
셀룰러 모듈(221)은, 예를 들면, 통신 네트워크를 통해서 음성 통화, 영상 통화, 문자 서비스, 또는 인터넷 서비스 등을 제공할 수 있다. 한 실시 예에 따르면, 셀룰러 모듈(221)은 가입자 식별 모듈(예: SIM(subscriber identification module) 카드)(224)을 이용하여 통신 네트워크 내에서 전자 장치(201)의 구별 및 인증을 수행할 수 있다. 한 실시 예에 따르면, 셀룰러 모듈(221)은 프로세서(210)가 제공할 수 있는 기능 중 적어도 일부 기능을 수행할 수 있다. 한 실시 예에 따르면, 셀룰러 모듈(221)은 커뮤니케이션 프로세서(CP)를 포함할 수 있다. 어떤 실시 예에 따르면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227) 또는 NFC 모듈(228) 중 적어도 일부(예: 두 개 이상)는 하나의 IC(integrated chip) 또는 IC 패키지 내에 포함될 수 있다.
RF 모듈(229)은, 예를 들면, 통신 신호(예: RF 신호)를 송수신할 수 있다. RF 모듈(229)은, 예를 들면, 트랜시버(transceiver), PAM(power amp module), 주파수 필터, LNA(low noise amplifier), 또는 안테나(antenna) 등을 포함할 수 있다. 다른 실시 예에 따르면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227) 또는 NFC 모듈(228) 중 적어도 하나는 별개의 RF 모듈을 통하여 RF 신호를 송수신할 수 있다.
WiFi 모듈(223)은, 예를 들면, 무선 인터넷 접속 및 외부 장치(예: 다른 전자 장치(102) 또는 서버(106) 등)와 무선 랜(wireless LAN(local area network)) 링크(link)를 형성하기 위한 모듈을 나타낼 수 있다. WiFi 모듈(223)은 전자 장치(201)에 내장되거나 외장될 수 있다. 무선 인터넷 기술로는 WiFi, WiGig, Wibro, WiMax(world interoperability for microwave access), HSDPA(high speed downlink packet access), 또는 mmWave(millimeter Wave) 등이 이용될 수 있다. WiFi 모듈(223)은 전자 장치(201)와 직접(direct) 연결되거나, 또는 네트워크(예: 무선 인터넷 네트워크)(예: 네트워크(162))를 통해 연결되어 있는 외부 장치(예: 다른 전자 장치(104) 등)와 연동하여, 전자 장치(201)의 다양한 데이터들을 외부로 전송하거나, 또는 외부로부터 수신할 수 있다. WiFi 모듈(223)은 상시 온(on) 상태를 유지하거나, 전자 장치의 설정 또는 사용자 입력에 따라 턴-온(turn-on)/턴-오프(turn-off) 될 수 있다.
블루투스 모듈(225) 및 NFC 모듈(228)은, 예를 들면, 근거리 통신(short range communication)을 수행하기 위한 근거리 통신 모듈을 나타낼 수 있다. 근거리 통신 기술로 블루투스, 저전력 블루투스(BLE), RFID(radio frequency identification), 적외선 통신(IrDA), UWB(ultra wideband), 지그비(Zigbee), 또는 NFC 등이 이용될 수 있다. 근거리 통신 모듈은 전자 장치(201)와 네트워크(예: 근거리 통신 네트워크)를 통해 연결되어 있는 외부 장치(예: 다른 전자 장치(102) 등)와 연동하여, 전자 장치(201)의 다양한 데이터들을 외부 장치로 전송하거나 수신 받을 수 있다. 근거리 통신 모듈(예: 블루투스 모듈(225) 및 NFC 모듈(228))은 상시 온 상태를 유지하거나, 전자 장치(201)의 설정 또는 사용자 입력에 따라 턴-온/턴-오프 될 수 있다.
가입자 식별 모듈(224)은, 예를 들면, 가입자 식별 모듈을 포함하는 카드 또는 임베디드 SIM을 포함할 수 있으며, 고유한 식별 정보(예: ICCID(integrated circuit card identifier)) 또는 가입자 정보(예: IMSI(international mobile subscriber identity))를 포함할 수 있다.
메모리(230)(예: 메모리(130))는, 예를 들면, 내장 메모리(232) 또는 외장 메모리(234)를 포함할 수 있다. 내장 메모리(232)는, 예를 들면, 휘발성 메모리(예: DRAM(dynamic RAM(random access memory)), SRAM(synchronous RAM), 또는 SDRAM(synchronous dynamic RAM) 등), 비휘발성 메모리(예: OTPROM(one time programmable ROM(read only memory)), PROM(programmable ROM), EPROM(erasable and programmable ROM), EEPROM(electrically EPROM), mask ROM, flash ROM, 플래시 메모리, 하드 드라이브, 또는 솔리드 스테이트 드라이브(SSD, solid state drive)) 중 적어도 하나를 포함할 수 있다. 외장 메모리(234)는 플래시 드라이브(flash drive), 예를 들면, CF(compact flash), SD(secure digital), Micro-SD, Mini-SD, xD(extreme digital), MMC(multi-media card) 또는 메모리 스틱 등을 포함할 수 있다. 외장 메모리(234)는 다양한 인터페이스를 통하여 전자 장치(201)와 기능적으로 또는 물리적으로 연결될 수 있다.
메모리(230)는 다양한 실시 예들에서, 프로세서(210)가, 이미지에서 얼굴 영역을 검출하고, 얼굴 영역의 속성(예: 인종 정보)을 구분하고, 속성에 기반하여 화이트 밸런스 보정을 수행하도록 하는 것과 관련되는 하나 또는 그 이상의 프로그램들, 데이터 또는 인스트럭션들(instructions)을 저장할 수 있다. 다양한 실시 예들에 따라, 메모리(230)는, 얼굴 영역의 객체의 속성(예: 인종)에 따른 화이트 밸런스 보정을 위한 다양한 설정 정보(예: 색 정보, 기준 값, 보정 값, 화이트 밸런스 오프셋, 역광 비율 등)를 저장할 수 있다. 다양한 실시 예들에 따라, 메모리(230)는 프로세서(210)가, 얼굴 영역의 객체의 속성(예: 인종)에 따른 화이트 밸런스 보정을 제어하는 것과 관련된, 다양한 상태 별 설정 정보를 룩업 테이블(look-up table)(또는 매핑 테이블(mapping table)) 형태로 저장할 수 있다.
메모리(230)는 확장 메모리(예: 외장 메모리(234)) 또는 내부 메모리(예: 내장 메모리(232))를 포함할 수 있다. 전자 장치(201)는 인터넷 상에서 메모리(230)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작할 수도 있다.
메모리(230)는 하나 또는 그 이상의 소프트웨어(또는 소프트웨어 모듈)를 저장할 수 있다. 예를 들어, 소프트웨어 구성요소는 운영 체제(operating system) 소프트웨어 모듈, 통신 소프트웨어 모듈, 그래픽 소프트웨어 모듈, 유저 인터페이스 소프트웨어 모듈, MPEG(moving picture experts group) 모듈, 카메라 소프트웨어 모듈, 또는 하나 이상의 어플리케이션 소프트웨어 모듈 등을 포함할 수 있다. 또한 소프트웨어 구성요소인 모듈은 명령어들의 집합으로 표현할 수 있으므로, 모듈을 명령어 세트(instruction set)라고 표현하기도 한다. 모듈은 또한 프로그램으로 표현하기도 한다. 본 발명의 다양한 실시 예들에서 메모리(230)는 앞서 기술한 모듈 이외에 추가적인 모듈(명령어들)을 포함할 수 있다. 또는 필요에 따라, 일부의 모듈(명령어들)을 사용하지 않을 수도 있다.
운영 체제 소프트웨어 모듈은 일반적인 시스템 동작(system operation)을 제어하는 여러 가지의 소프트웨어 구성요소를 포함할 수 있다. 이러한 일반적인 시스템 작동의 제어는, 예를 들면, 메모리 관리 및 제어, 저장 하드웨어(장치) 제어 및 관리, 또는 전력 제어 및 관리 등을 의미할 수 있다. 또한 운영 체제 소프트웨어 모듈은 여러 가지의 하드웨어(장치)와 소프트웨어 구성요소(모듈) 사이의 통신을 원활하게 하는 기능도 수행할 수 있다.
통신 소프트웨어 모듈은 통신 모듈(220) 또는 인터페이스(270)를 통해 웨어러블 장치, 스마트폰, 컴퓨터, 서버 또는 휴대용 단말기 등 다른 전자 장치와 통신을 가능하게 할 수 있다. 그리고, 통신 소프트웨어 모듈은 해당 통신 방식에 해당하는 프로토콜 구조로 구성될 수 있다.
그래픽 소프트웨어 모듈은 디스플레이(260) 상에 그래픽(graphics)을 제공하고 표시하기 위한 여러 가지 소프트웨어 구성요소를 포함할 수 있다. 다양한 실시 예들에서, 그래픽이란 용어는 텍스트(text), 웹 페이지(web page), 아이콘(icon), 디지털 이미지(digital image), 비디오(video), 애니메이션(animation) 등을 포함하는 의미로 사용될 수 있다.
유저 인터페이스 소프트웨어 모듈은 유저 인터페이스(UI)에 관련한 여러 가지 소프트웨어 구성요소를 포함할 수 있다. 예를 들어, 유저 인터페이스의 상태가 어떻게 변경되는지 또는 유저 인터페이스 상태의 변경이 어떤 조건에서 이루어지는지 등에 대한 내용을 포함할 수 있다.
MPEG 모듈은 디지털 콘텐츠(예: 비디오, 오디오 등) 관련 프로세스 및 기능들(예: 콘텐츠의 생성, 재생, 배포 및 전송 등)을 가능하게 하는 소프트웨어 구성요소를 포함할 수 있다.
카메라 소프트웨어 모듈은 카메라 관련 프로세스 및 기능들을 가능하게 하는 카메라 관련 소프트웨어 구성요소를 포함할 수 있다.
어플리케이션 모듈은 렌더링 엔진(rendering engine)을 포함하는 웹브라우저(web browser), 이메일(email), 즉석 메시지(instant message), 워드 프로세싱(word processing), 키보드 에뮬레이션(keyboard emulation), 어드레스 북(address book), 터치 리스트(touch list), 위젯(widget), 디지털 저작권 관리(DRM, digital right management), 홍채 인식(iris scan), 상황 인지(context cognition), 음성 인식(voice recognition), 위치 결정 기능(position determining function), 위치 기반 서비스(location based service) 등을 포함할 수 있다.
다양한 실시 예들에 따라, 어플리케이션 모듈은 헬스 케어(health care)(예: 운동량 또는 혈당 등을 측정), 또는 환경 정보(environmental information)(예: 기압, 습도, 또는 온도 정보) 제공 어플리케이션 등을 포함할 수 있다. 다양한 실시 예들에 따르면, 어플리케이션 모듈은 이미지에서 얼굴 영역을 검출하고, 얼굴 영역의 속성(예: 인종 정보)을 구분하고, 속성에 기반하여 화이트 밸런스 보정을 수행하도록 하는 하나 또는 그 이상의 어플리케이션들을 포함할 수 있다.
센서 모듈(240)은, 예를 들면, 물리량을 계측하거나 전자 장치(201)의 작동 상태를 감지하여, 계측 또는 감지된 정보를 전기 신호로 변환할 수 있다. 센서 모듈(240)은, 예를 들면, 제스처 센서(gesture sensor)(240A), 자이로 센서(gyro sensor)(240B), 기압 센서(barometer sensor)(240C), 마그네틱 센서(magnetic sensor)(240D), 가속도 센서(acceleration sensor)(240E), 그립 센서(grip sensor)(240F), 근접 센서(proximity sensor)(240G), 컬러 센서(color sensor)(240H)(예: RGB(red, green, blue) 센서), 생체 센서(medical sensor)(240I), 온/습도 센서(temperature-humidity sensor)(240J), 조도 센서(illuminance sensor)(240K), 또는 UV(ultra violet) 센서(240M) 중의 적어도 하나를 포함할 수 있다.
추가적으로 또는 대체적으로(additionally or alternatively), 센서 모듈(240)은, 예를 들면, 후각(e-nose) 센서, 일렉트로마이오그라피(EMG, electromyography) 센서, 일렉트로엔씨팔로그램(EEG, electroencephalogram) 센서, 일렉트로카디오그램(ECG, electrocardiogram) 센서, IR(infrared) 센서, 홍채 센서(iris scan sensor) 및/또는 지문 센서(finger scan sensor)를 포함할 수 있다. 센서 모듈(240)은 그 안에 속한 적어도 하나 이상의 센서들을 제어하기 위한 제어 회로(control circuit)를 더 포함할 수 있다. 어떤 실시 예에서는, 전자 장치(201)는 프로세서(210)의 일부로서 또는 별도로, 센서 모듈(240)을 제어하도록 구성된 프로세서(예: 저전력 프로세서, MCU(micro controller unit), MPU(micro processor unit) 등)를 더 포함하여, 프로세서(210)가 슬립(sleep) 상태에 있는 동안, 센서 모듈(240)을 제어할 수 있다.
입력 장치(250)는, 예를 들면, 터치 패널(252), (디지털) 펜 센서(254), 키(256), 또는 초음파 입력 장치(258)를 포함할 수 있다.
터치 패널(252)은, 예를 들면, 정전식, 감압식, 적외선 방식, 또는 초음파 방식 중 적어도 하나의 방식을 사용할 수 있다. 또한, 터치 패널(252)은 제어 회로를 더 포함할 수도 있다. 터치 패널(252)은 택타일 레이어(tactile layer)를 더 포함하여, 사용자에게 촉각 반응을 제공할 수 있다.
(디지털) 펜 센서(254)는, 예를 들면, 터치 패널의 일부이거나, 별도의 인식용 쉬트(sheet)를 포함할 수 있다. 키(256)는, 예를 들면, 물리적인 버튼, 광학식 키, 또는 키패드를 포함할 수 있다. 초음파 입력 장치(258)는 마이크(288)를 통해, 입력 도구에서 발생된 초음파를 감지하여, 상기 감지된 초음파에 대응하는 데이터를 확인할 수 있다. 다양한 실시 예들에 따라, 입력 장치(250)는 전자 펜을 포함할 수 있다. 다양한 실시 예들에 따라, 입력 장치(250)는 포스 터치(force touch)를 입력 받을 수 있도록 구현될 수 있다.
디스플레이(260)(예: 디스플레이(160))는 패널(262), 홀로그램 장치(264), 프로젝터(266), 및/또는 이들을 제어하기 위한 제어 회로를 포함할 수 있다.
패널(262)은, 예를 들면, 유연하게(flexible), 투명하게(transparent), 또는 착용할 수 있게(wearable) 구현될 수 있다. 패널(262)은 터치 패널(252)과 하나 이상의 모듈로 구성될 수 있다. 한 실시 예에 따르면, 패널(262)은 사용자의 터치에 대한 압력의 세기를 측정할 수 있는 압력 센서(또는 포스 센서(force sensor))를 포함할 수 있다. 압력 센서는 터치 패널(252)과 일체형으로 구현되거나, 또는 터치 패널(252)과는 별도의 하나 이상의 센서로 구현될 수 있다.
패널(262)은 디스플레이(260)에 안착될 수 있으며, 디스플레이(260) 표면에 접촉 또는 근접하는 사용자 입력을 감지할 수 있다. 사용자 입력은 싱글터치(single-touch), 멀티터치(multi-touch), 호버링(hovering), 또는 에어 제스처(air gesture) 중 적어도 하나에 기반하여 입력되는 터치 입력 또는 근접 입력을 포함할 수 있다. 패널(262)은 다양한 실시 예들에서 전자 장치(201)의 사용과 관련된 동작을 개시하기 위한 사용자 입력을 수신할 수 있고, 사용자 입력에 따른 입력 신호를 발생할 수 있다.
패널(262)은 디스플레이(260)의 특정 부위에 가해진 압력 또는 디스플레이(260)의 특정 부위에 발생하는 정전 용량 등의 변화를 전기적인 입력 신호로 변환하도록 구성될 수 있다. 패널(262)은 입력 도구(예: 사용자 손가락, 전자 펜 등)가 디스플레이(260)의 표면 상에 터치 또는 근접되는 위치 및 면적을 검출할 수 있다. 또한 패널(262)은 적용한 터치 방식에 따라 터치 시의 압력(예: 포스 터치)까지도 검출할 수 있도록 구현될 수 있다.
홀로그램 장치(264)는 빛의 간섭을 이용하여 입체 영상을 허공에 보여줄 수 있다. 프로젝터(266)는 스크린에 빛을 투사하여 영상을 표시할 수 있다. 스크린은, 예를 들면, 전자 장치(201)의 내부 또는 외부에 위치할 수 있다.
인터페이스(270)는, 예를 들면, HDMI(272), USB(274), 광 인터페이스(optical interface)(276), 또는 D-sub(D-subminiature)(278) 등을 포함할 수 있다. 인터페이스(270)는, 예를 들면, 도 1에 도시된 통신 인터페이스(170)에 포함될 수 있다. 추가적으로 또는 대체적으로, 인터페이스(270)는, 예를 들면, MHL(mobile high-definition link) 인터페이스, SD카드/MMC(multi-media card) 인터페이스, 또는 IrDA(infrared data association) 규격 인터페이스를 포함할 수 있다.
인터페이스(270)는, 다른 전자 장치로부터 데이터를 전송 받거나, 전원을 공급받아 전자 장치(201) 내부의 각 구성들에 전달할 수 있다. 인터페이스(270)는 전자 장치(201) 내부의 데이터가 다른 전자 장치로 전송되도록 할 수 있다. 예를 들어, 유/무선 헤드폰 포트(port), 외부 충전기 포트, 유/무선 데이터 포트, 메모리 카드(memory card) 포트, 오디오 입/출력(input/output) 포트, 비디오 입/출력 포트, 이어폰 포트 등이 인터페이스(270)에 포함될 수 있다. 다양한 실시 예들에 따라, 인터페이스(270)(예: USB(274))는 전자 장치(201)에 연결되는 모든 외부 장치와의 인터페이스 역할을 수행할 수 있다. 다양한 실시 예들에서, 인터페이스(270)(예: USB(274))는 USB 타입 C(Type C) 인터페이스(이하, 타입 C 인터페이스)를 포함할 수 있다.
오디오 모듈(280)은, 예를 들면, 소리와 전기 신호를 쌍방향으로 변환시킬 수 있다. 오디오 모듈(280)의 적어도 일부 구성요소는, 예를 들면, 도 1 에 도시된 입출력 인터페이스(145)에 포함될 수 있다.
오디오 모듈(280)은, 예를 들면, 스피커(282), 리시버(284), 이어폰(286), 또는 마이크(288) 등을 통해 입력 또는 출력되는 소리 정보를 처리할 수 있다. 오디오 모듈(280)은 프로세서(210)로부터 입력 받은 오디오 신호를 출력 장치(예: 스피커(282), 리시버(284) 또는 이어폰(286))로 전송하고, 입력 장치(예: 마이크(288))로부터 입력 받은 음성 등의 오디오 신호를 프로세서(210)에 전달하는 기능을 수행할 수 있다. 오디오 모듈(280)은 음성/음향 데이터를 프로세서(210)의 제어에 따라 출력 장치를 통해 가청음으로 변환하여 출력하고, 입력 장치로부터 수신되는 음성 등의 오디오 신호를 디지털 신호로 변환하여 프로세서(210)에게 전달할 수 있다.
스피커(282) 또는 리시버(284)는 통신 모듈(220)로부터 수신되거나, 또는 메모리(230)에 저장된 오디오 데이터를 출력할 수 있다. 스피커(282) 또는 리시버(284)는 전자 장치(201)에서 수행되는 다양한 동작(기능)과 관련된 음향 신호를 출력할 수도 있다. 마이크(288)는 외부의 음향 신호를 입력 받아 전기적인 음성 데이터로 처리할 수 있다. 마이크(288)에는 외부의 음향 신호를 입력 받는 과정에서 발생되는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘(noise reduction algorithm)이 구현될 수 있다. 마이크(288)는 음성 명령 등과 같은 오디오 스트리밍(audio streaming)의 입력을 담당할 수 있다.
카메라 모듈(291)은, 예를 들면, 정지 영상 및 동영상을 촬영할 수 있는 장치로서, 한 실시 예에 따르면, 하나 이상의 이미지 센서(예: 전면 센서 또는 후면 센서), 렌즈, 이미지 시그널 프로세서(ISP), 또는 플래시(예: LED 또는 xenon lamp 등)를 포함할 수 있다.
다양한 실시 예들에 따라, 카메라 모듈(291)은 전자 장치(201)의 촬영 기능을 지원하는 구성을 나타낸다. 카메라 모듈(291)은 프로세서(210)의 제어에 따라 임의의 피사체를 촬영하고, 촬영된 데이터(예: 이미지)를 디스플레이(260) 및 프로세서(210)에 전달할 수 있다.
다양한 실시 예들에 따라, 카메라 모듈(291)은, 예를 들면, 칼라 정보를 획득하기 제1 카메라(예: 칼라(RGB) 카메라)와 깊이 정보(depth information)(예: 피사체의 위치 정보, 거리 정보)를 획득하기 위한 제2 카메라(예: 적외선(IR, infrared) 카메라)를 포함할 수 있다. 한 실시 예에 따라, 제1 카메라는 전자 장치(201)의 전면에 구비되는 전면 카메라일 수 있다. 다양한 실시 예들에 따라, 전면 카메라는 제2 카메라에 의해 대체될 수 있고, 제1 카메라는 전자 장치(201)의 전면에서 구비되지 않을 수 있다. 다양한 실시 예들에 따라, 제1 카메라는 제2 카메라와 함께 전자 장치(201)의 전면에 함께 배치될 수 있다. 한 실시 예에 따라, 제1 카메라는 전자 장치(201)의 후면에 구비되는 후면 카메라일 수 있다. 한 실시 예에 따라, 제1 카메라는 전자 장치(201)의 전면과 후면에 각각 구비되는 전면 카메라 및 후면 카메라를 모두 포함하는 형태일 수 있다.
카메라 모듈(291)은 이미지 센서를 포함할 수 있다. 이미지 센서는 CCD(charged coupled device) 또는 CMOS(complementary metal-oxide semiconductor)로 구현될 수 있다.
전력 관리 모듈(295)은, 예를 들면, 전자 장치(201)의 전력을 관리할 수 있다. 한 실시 예에 따르면, 전력 관리 모듈(295)은 PMIC(power management integrated circuit), 충전 IC, 배터리 또는 연료 게이지(fuel gauge)(또는 배터리 게이지)를 포함할 수 있다.
PMIC는 유선 및/또는 무선 충전 방식을 가질 수 있다. 무선 충전 방식은, 예를 들면, 자기 공명(magnetic resonance) 방식, 자기 유도(magnetic induction) 방식 또는 전자기파(electromagnetic wave) 방식 등을 포함할 수 있다. PMIC는 무선 충전을 위한 부가적인 회로, 예를 들면, 코일 루프(coil loop), 공진 회로(resonance circuit), 또는 정류기(rectifier) 등을 더 포함할 수 있다. 연료 게이지는, 예를 들면, 배터리(296)의 잔량, 충전 중 전압, 전류, 또는 온도를 측정할 수 있다. 배터리(296)는, 예를 들면, 충전식 전지(rechargeable battery) 및/또는 태양 전지(solar battery)를 포함할 수 있다.
인디케이터(297)는 전자 장치(201) 또는 그 일부(예: 프로세서(210))의 특정 상태, 예를 들면, 부팅 상태, 메시지 상태 또는 충전 상태 등을 표시할 수 있다.
모터(298)(예: 진동 모터)는 전기적 신호를 기계적 진동으로 변환할 수 있고, 진동, 또는 햅틱(haptic) 효과 등을 발생시킬 수 있다. 다양한 실시 예들에 따라, 전자 장치(201)는 모터 구동 제어부(미도시)를 포함할 수 있고, 모터(298)는 모터 구동 제어부의 제어에 따라 구동할 수 있다. 한 실시 예에 따르면, 프로세서(210)는 진동 발생에 관련된 신호를 모터 구동 제어부로 인가하고, 모터 구동 제어부는 프로세서(210)로부터 수신된 신호에 대응하는 모터 구동 신호를 모터(298)에 출력할 수 있다. 모터(298)는 모터 구동 제어부로부터 수신된 모터 구동 신호에 의해 구동되어 진동을 발생할 수 있다.
다양한 실시 예들에서, 모터(298)는 진동을 발생시키는 진동 발생 장치(또는 모듈)에 의해 구현될 수 있다. 진동 발생 장치는, 예를 들면, 모터(298)를 비롯하여, 진동자(vibrator), 엑추에이터(actuator), 또는 햅틱(haptic) 발생 장치를 포함할 수 있다. 다양한 실시 예들에서는 하나 또는 그 이상의 진동 발생 장치들을 이용하여, 진동 생성 및 발생에 관련된 동작을 수행할 수도 있다.
다양한 실시 예들에 따른 전자 장치(201)는, 예를 들면, DMB(digital multimedia broadcasting), DVB(digital video broadcasting), 또는 미디어플로(mediaFloTM) 등의 규격에 따른 미디어 데이터를 처리할 수 있는 모바일 TV 지원 장치(예: GPU)를 포함할 수 있다.
본 문서에서 기술된 구성요소들 각각은 하나 또는 그 이상의 부품(component)으로 구성될 수 있으며, 해당 구성요소의 명칭은 전자 장치의 종류에 따라서 달라질 수 있다. 다양한 실시 예들에서, 전자 장치(예: 전자 장치(101, 201))는 일부 구성요소가 생략되거나, 추가적인 구성요소를 더 포함하거나, 또는, 구성요소들 중 일부가 결합되어 하나의 개체로 구성되되, 결합 이전의 해당 구성요소들의 기능을 동일하게 수행할 수 있다.
도 3은 다양한 실시 예들에 따른 프로그램 모듈의 블록도이다.
한 실시 예에 따르면, 프로그램 모듈(310)(예: 프로그램(140))은 전자 장치(예: 전자 장치(101, 201))에 관련된 자원을 제어하는 운영 체제 및/또는 운영 체제 상에서 구동되는 다양한 어플리케이션(예: 어플리케이션 프로그램(147))을 포함할 수 있다. 운영 체제는, 예를 들면, AndroidTM, iOSTM, WindowsTM, SymbianTM, TizenTM, 또는 BadaTM를 포함할 수 있다.
도 3을 참조하면, 프로그램 모듈(310)은 커널(320)(예: 커널(141)), 미들웨어(330)(예: 미들웨어(143)), API(360)(예: API(145)), 및/또는 어플리케이션(370)(예: 어플리케이션 프로그램(147))을 포함할 수 있다. 프로그램 모듈(310)의 적어도 일부는 전자 장치 상에 프리로드(preload) 되거나, 외부 전자 장치(예: 전자 장치(102, 104), 서버(106) 등)로부터 다운로드(download) 가능하다.
커널(320)은, 예를 들면, 시스템 리소스 매니저(321) 및/또는 디바이스 드라이버(323)를 포함할 수 있다.
시스템 리소스 매니저(321)는 시스템 리소스의 제어, 할당, 또는 회수를 수행할 수 있다. 한 실시 예에 따르면, 시스템 리소스 매니저(321)는 프로세스 관리부, 메모리 관리부, 또는 파일 시스템 관리부를 포함할 수 있다.
디바이스 드라이버(323)는, 예를 들면, 디스플레이 드라이버, 카메라 드라이버, 블루투스 드라이버, 공유 메모리 드라이버, USB 드라이버, 키패드 드라이버, WiFi 드라이버, 오디오 드라이버, 또는 IPC(inter-process communication) 드라이버를 포함할 수 있다.
미들웨어(330)는, 예를 들면, 어플리케이션(370)이 공통적으로 필요로 하는 기능을 제공하거나, 어플리케이션(370)이 전자 장치 내부의 제한된 시스템 자원을 사용할 수 있도록 API(360)를 통해 다양한 기능들을 어플리케이션(370)으로 제공할 수 있다.
한 실시 예에 따르면, 미들웨어(330)는 런타임 라이브러리(runtime library)(335), 어플리케이션 매니저(application manager)(341), 윈도우 매니저(window manager)(342), 멀티미디어 매니저(multimedia manager)(343), 리소스 매니저(resource manager)(344), 파워 매니저(power manager)(345), 데이터베이스 매니저(database manager)(346), 패키지 매니저(package manager)(347), 커넥티비티 매니저(connectivity manager)(348), 노티피케이션 매니저(notification manager)(349), 로케이션 매니저(location manager)(350), 그래픽 매니저(graphic manager)(351), 시큐리티 매니저(security manager)(352), 또는 팬 컨트롤 매니저(fan control manager)(353) 중 적어도 하나를 포함할 수 있다.
런타임 라이브러리(335)는, 예를 들면, 어플리케이션(370)이 실행되는 동안에 프로그래밍 언어(programming language)를 통해 새로운 기능을 추가하기 위해 컴파일러(compiler)가 사용하는 라이브러리 모듈을 포함할 수 있다. 런타임 라이브러리(335)는 입출력 관리, 메모리 관리, 또는 산술 함수 처리를 수행할 수 있다.
어플리케이션 매니저(341)는, 예를 들면, 어플리케이션(370)의 생명 주기(life cycle)를 관리할 수 있다. 윈도우 매니저(342)는 화면에서 사용되는 GUI(graphical user interface) 자원을 관리할 수 있다.
멀티미디어 매니저(343)는 미디어 파일들의 재생에 필요한 포맷을 파악하고, 해당 포맷에 맞는 코덱을 이용하여 미디어 파일의 인코딩 또는 디코딩을 수행할 수 있다. 리소스 매니저(344)는 어플리케이션(370)의 소스 코드 또는 메모리의 공간을 관리할 수 있다.
파워 매니저(345)는, 예를 들면, 배터리의 용량, 온도, 또는 전원을 관리하고, 이 중 해당 정보를 이용하여 전자 장치의 동작에 필요한 전력 정보를 결정 또는 제공할 수 있다. 한 실시 예에 따르면, 파워 매니저(345)는 바이오스(BIOS, basic input/output system)와 연동할 수 있다.
데이터베이스 매니저(346)는, 예를 들면, 어플리케이션(370)에서 사용될 데이터베이스를 생성, 검색, 또는 변경할 수 있다. 패키지 매니저(347)는 패키지 파일의 형태로 배포되는 어플리케이션의 설치 또는 갱신을 관리할 수 있다. 커넥티비티 매니저(348)는, 예를 들면, 무선 연결을 관리할 수 있다. 노티피케이션 매니저(349)는, 예를 들면, 도착 메시지, 약속, 근접성 알림 등의 이벤트를 사용자에게 제공할 수 있다.
로케이션 매니저(350)는, 예를 들면, 전자 장치의 위치 정보를 관리할 수 있다. 그래픽 매니저(351)는, 예를 들면, 사용자에게 제공될 그래픽 효과 또는 이와 관련된 유저 인터페이스를 관리할 수 있다. 시큐리티 매니저(352)는, 예를 들면, 시스템 보안 또는 사용자 인증을 제공할 수 있다.
한 실시 예에 따르면, 미들웨어(330)는 전자 장치의 음성 또는 영상 통화 기능을 관리하기 위한 통화(telephony) 매니저 또는 전술된 구성요소들의 기능들의 조합을 형성할 수 있는 미들웨어 모듈을 포함할 수 있다. 한 실시 예에 따르면, 미들웨어(330)는 운영 체제의 종류 별로 특화된 모듈을 제공할 수 있다. 미들웨어(330)는 동적으로 기존의 구성요소를 일부 삭제하거나 새로운 구성요소들을 추가할 수 있다.
API(360)는, 예를 들면, API 프로그래밍 함수들의 집합으로, 운영 체제에 따라 다른 구성으로 제공될 수 있다. 예를 들면, 안드로이드 또는 iOS의 경우, 플랫폼 별로 하나의 API 셋을 제공할 수 있으며, 타이젠의 경우, 플랫폼 별로 두 개 이상의 API 셋을 제공할 수 있다.
어플리케이션(370)은, 예를 들면, 홈(371), 다이얼러(372), SMS/MMS(373), IM(instant message)(374), 브라우저(375), 카메라(376), 알람(377), 컨택트(378), 음성 다이얼(379), 이메일(380), 달력(381), 미디어 플레이어(382), 앨범(383), 와치(384) 등의 어플리케이션을 포함할 수 있다. 다양한 실시 예들에 따르면, 어플리케이션(370)은, 헬스 케어(예: 운동량 또는 혈당 등을 측정), 또는 환경 정보(예: 기압, 습도, 또는 온도 정보) 제공 어플리케이션 등을 포함할 수 있다. 다양한 실시 예들에 따르면, 어플리케이션(370)은 이미지에서 얼굴 영역을 검출하고, 얼굴 영역의 속성(예: 인종 정보)을 구분하고, 속성에 기반하여 화이트 밸런스 보정하는 동작을 수행하도록 하는 어플리케이션을 포함할 수 있다.
한 실시 예에 따르면, 어플리케이션(370)은 전자 장치(201)와 외부 전자 장치 사이의 정보 교환을 지원할 수 있는 정보 교환 어플리케이션을 포함할 수 있다. 정보 교환 어플리케이션은, 예를 들면, 외부 전자 장치에 특정 정보를 전달하기 위한 노티피케이션 릴레이(notification relay) 어플리케이션, 또는 외부 전자 장치를 관리하기 위한 장치 관리(device management) 어플리케이션을 포함할 수 있다.
예를 들면, 노티피케이션 릴레이 어플리케이션은 전자 장치(201)의 다른 어플리케이션에서 발생된 알림 정보를 외부 전자 장치로 전달하거나, 또는 외부 전자 장치로부터 알림 정보를 수신하여 사용자에게 제공할 수 있다. 장치 관리 어플리케이션은, 예를 들면, 전자 장치(201)와 통신하는 외부 전자 장치의 기능(예: 외부 전자 장치 자체(또는, 일부 구성 부품)의 턴-온(turn-on)/턴-오프(turn-off) 또는 디스플레이의 밝기(또는, 해상도) 조절), 또는 외부 전자 장치에서 동작하는 어플리케이션을 설치, 삭제, 또는 갱신할 수 있다.
한 실시 예에 따르면, 어플리케이션(370)은 외부 전자 장치의 속성에 따라 지정된 어플리케이션(예: 모바일 의료 기기의 건강 관리 어플리케이션)을 포함할 수 있다.
한 실시 예에 따르면, 어플리케이션(370)은 외부 전자 장치로부터 수신된 어플리케이션을 포함할 수 있다. 프로그램 모듈(310)의 적어도 일부는 소프트웨어, 펌웨어, 하드웨어(예: 프로세서(210)), 또는 이들 중 적어도 둘 이상의 조합으로 구현(예: 실행)될 수 있으며, 하나 이상의 기능을 수행하기 위한 모듈, 프로그램, 루틴, 명령어 세트 또는 프로세스를 포함할 수 있다.
본 문서에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구성된 유닛(unit)을 포함하며, 예를 들면, 로직(logic), 논리 블록(logic block), 부품(component), 또는 회로(circuit) 등의 용어와 상호 호환적으로 사용될 수 있다. "모듈"은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수 있다. "모듈"은 기계적으로 또는 전자적으로 구현될 수 있으며, 예를 들면, 어떤 동작들을 수행하는, 알려졌거나 앞으로 개발될, ASIC(application-specific integrated circuit) 칩, FPGAs(field-programmable gate arrays), 또는 프로그램 가능 논리 장치를 포함할 수 있다.
다양한 실시 예들에 따른 장치(예: 모듈들 또는 그 기능들) 또는 방법(예: 동작들)의 적어도 일부는 프로그램 모듈의 형태로 컴퓨터로 판독 가능한 저장 매체(예: 도 1의 메모리(130) 또는 도 2의 메모리(230))에 저장된 명령어로 구현될 수 있다. 상기 명령어가 프로세서(예: 도 1의 프로세서(120) 또는 도 2의 프로세서(210))에 의해 실행될 경우, 프로세서가 상기 명령어에 해당하는 기능을 수행할 수 있다.
컴퓨터로 판독 가능한 기록 매체는, 하드디스크, 플로피디스크, 마그네틱 매체(magnetic media)(예: 자기테이프), 광기록 매체(optical recording media)(예: CD-ROM(compact disc read only memory), DVD(digital versatile disc), 자기-광 매체(magneto-optical media)(예: 플롭티컬 디스크(floptical disk)), 내장 메모리 등을 포함할 수 있다. 명령어는 컴파일러에 의해 만들어지는 코드 또는 인터프리터(interpreter)에 의해 실행될 수 있는 코드를 포함할 수 있다. 다양한 실시 예들에 따른 모듈 또는 프로그램 모듈은 전술한 구성요소들 중 적어도 하나 이상을 포함하거나, 일부가 생략되거나, 또는 다른 구성요소를 더 포함할 수 있다.
다양한 실시 예들에 따르면, 기록 매체는, 후술되는 다양한 방법을 프로세서(120, 210)에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 판독 가능한 기록 매체를 포함할 수 있다.
다양한 실시 예들에 따른, 모듈, 프로그램 모듈 또는 다른 구성요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱(heuristic)하게 실행되거나, 적어도 일부 동작이 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다.
도 4는 본 발명의 다양한 실시 예들에 따른 전자 장치에서 화이트 밸런스 보정 모듈의 예를 도시하는 도면이다. 도 5 및 도 6은 본 발명의 다양한 실시 예들에 따른 전자 장치에서 객체의 속성 간의 색 차이를 설명하기 위해 도시하는 도면들이다.
도 4에 도시한 바와 같이, 도 4는 다양한 실시 예들에 따른 전자 장치(예: 도 1 또는 도 2의 전자 장치(101, 201))에서 이미지의 얼굴 영역에 대한 속성(예: 인종) 구분에 의하여 화이트 밸런스를 제어하는 것과 관련된 화이트 밸런스 보정 모듈(400)의 예를 나타낼 수 있다.
다양한 실시 예들에서, 화이트 밸런스 보정 모듈(400)은 프로세서(예: 도 1 또는 도 2의 프로세서(120, 210), 이하, 프로세서(210))에 하드웨어 모듈로 포함되거나, 또는 소프트웨어 모듈로 포함될 수 있다. 다양한 실시 예들에서, 전자 장치는 이미지 시그널 프로세서를 프로세서(210)에 포함하거나, 또는 프로세서(210)와 별도로 이미지 시그널 프로세서를 포함할 수 있고, 화이트 밸런스 보정 모듈(400)은 이미지 시그널 프로세서에 하드웨어 모듈 또는 소프트웨어 모듈로 포함될 수도 있다. 다양한 실시 예들에서 화이트 밸런스 보정 모듈(400)은 자동 화이트 밸런스(AWB, auto white balance) 보정을 수행하도록 설정된 모듈일 수 있다.
도 4를 참조하면, 다양한 실시 예들에 따른 화이트 밸런스 기능을 제공하기 위한 화이트 밸런스 보정 모듈(400)은, 화이트 밸런스 산출부(410)와 얼굴(face) 화이트 밸런스 산출부(420) 등을 포함할 수 있다. 다양한 실시 예들에서, 얼굴 화이트 밸런스 산출부(420)는 영역 분석부(440)와 히스토그램(histogram) 판단부(450) 등을 포함하는 속성 검출부(430)를 포함할 수 있다.
화이트 밸런스 산출부(410)는 일반적인 자동 화이트 밸런스를 연산할 수 있다. 예를 들면, 자동 화이트 밸런스 기능은 색 온도(color temperature)의 차이에서 발생하는 색상의 차이를 보정하는 기능을 나타낼 수 있다. 한 실시 예에 따르면, 이미지 촬영 시 빛(또는 광원)에 따라 색의 표현에 차이가 존재할 수 있다. 예를 들면, 색 온도가 낮으면 붉은 빛을 띄고, 색 온도가 높을 경우에는 파란 빛을 띄게 되므로, 화이트 밸런스 산출부(410)는 빛의 색 온도를 보정하여 이상적인 흰색이 촬영되도록 할 수 있다.
다양한 실시 예들에 따라, 화이트 밸런스 산출부(410)는 광원 하에서 그레이(gray) 영역을 추출하고, 그레이 영역의 RGB(Red, Green, Blue) 비율이 같아지도록(예: R=G=B) 하여 흰색을 재현하기 위한 화이트 밸런스 게인(WB gain)을 산출할 수 있다. 한 실시 예에 따르면, 화이트 밸런스 산출부(410)는 이미지 내에 얼굴의 존재 유무에 상관 없이 그레이 영역에 따라 화이트 밸런스 게인을 산출할 수 있다. 다양한 실시 예들에 따라, 화이트 밸런스 산출부(410)는 이미지에서 배경(background)에 대응하는 화이트 밸런스 게인을 산출하고, 화이트 밸런스 게인을 얼굴 화이트 밸런스 산출부(420)에 제공할 수 있다. 다양한 실시 예들에서, 화이트 밸런스 산출부(410)는 제1 보정 모듈 또는 제1 게인 생성부 등으로 명명될 수도 있다.
얼굴 화이트 밸런스 산출부(420)는 이미지에서 얼굴 영역에 관련된 자동 화이트 밸런스를 연산할 수 있다. 예를 들면, 이미지에서 사람의 얼굴이 포함되는 경우, 얼굴이 높은 색 온도 광원 하에 있고, 배경이 그 보다 낮은 색 온도 광원 하에 있는 것을 가정할 수 있다. 이러한 경우, 만약 얼굴 영역이 배경에 맞게 화이트 밸런스가 조절되면, 얼굴 색이 실제보다 푸르게 표현되어, 예를 들면, 생기 없는 얼굴로 표현될 수 있다.
다양한 실시 예들에서, 도시하지는 않았으나, 전자 장치는 이미지 촬영 시, 촬영된 이미지에서 얼굴(또는 얼굴 영역)을 검출할 수 있는 얼굴 검출부(미도시)를 포함할 수 있고, 얼굴 검출부에 기반하여 얼굴 수(face count)와 얼굴 위치(face position) 등에 관련된 얼굴 연관 정보를 얼굴 화이트 밸런스 산출부(420)에 제공할 수 있다.
다양한 실시 예들에 따르면, 얼굴 화이트 밸런스 산출부(420)는 얼굴 검출부로부터 획득된(수신된) 얼굴 연관 정보에 기반하여 얼굴 영역에 대한 화이트 밸런스 게인을 산출할 수 있다. 다양한 실시 예들에 따라, 얼굴 화이트 밸런스 산출부(420)는 이미지에서 얼굴 영역의 속성을 검출하여, 검출된 속성에 기반하여 화이트 밸런스 게인을 산출할 수 있다. 다양한 실시 예들에서, 얼굴 영역(또는 얼굴)의 속성은 얼굴에 기반하여 인종(human race) 또는 피부색과 관련된 지표를 나타낼 수 있다. 한 실시 예에 따르면, 인종은 크게 백인종, 흑인종, 황인종 세 가지로 구분될 수 있으며, 인종 별로 피부색의 파장 별 반사율이 다를 수 있다.
예를 들어, 도 5 및 도 6을 참조하면, 도 5는 얼굴 영역의 객체의 인종에 따른 피부색의 CIE(Commission Internationale de l'Eclairage) 표색계의 예를 나타내고, 도 6은 인종에 따른 피부색의 파장 별 반사율의 예시를 나타낼 수 있다. 도 5에서 x축과 y축은 각각 색의 밝기의 양을 나타낼 수 있고, x와 y는 한 조로 해서 색도를 나타낼 수 있다. 도 5에 도시한 바와 같이, 인종에 따른 피부색 CIE xy 좌표 상에서 볼 수 있듯이, 흑인종은 황인종(또는 백인종) 대비 파란(blue) 방향으로 쉬프트(shift)된 것을 확인할 수 있다. 또한 도 6의 인종에 따른 피부색의 파장 별 반사율 그래프에서 볼 수 있듯이, 흑인종은 황인종(또는 백인종) 대비 장파장 대역의 반사율이 낮아 황인종(또는 백인종) 대비 푸르스름(bluish)함을 확인할 수 있다. 한 실시 예에 따르면, 흑인종의 경우 황인종이나 백인종 대비 피부색의 장파장 대역 반사율이 낮아 푸르스름(bluish)할 수 있다. 따라서 다양한 실시 예들에 따르면, 얼굴 화이트 밸런스 산출부(420)는, 얼굴 기반 자동 화이트 밸런스(AWB)를 적용할 때 인종을 고려하여, 흑인종의 피부가 실제 대비 누르스름(yellowish)하게 되거나, 반대로 황인종(또는 백인종)이 푸르스름(bluish)하게 되는 경우를 방지하도록, 화이트 밸런스를 인종 구분에 의하여 다르게 적용할 수 있다.
다양한 실시 예들에 따르면, 얼굴 화이트 밸런스 산출부(420)는 얼굴 기반 자동 화이트 밸런스에서 얼굴 영역의 속성(예: 인종)을 판별하고 속성에 따른 본연의 색(예: 인종 본연의 피부색)의 표현을 향상시킬 수 있다. 이를 위하여, 다양한 실시 예들에서, 얼굴 화이트 밸런스 산출부(420)는 속성 검출부(430)를 포함할 수 있다.
속성 검출부(430)는 얼굴 기반 화이트 밸런스에서 얼굴 영역의 속성을 검출하고, 검출된 속성에 기반하여 얼굴 화이트 밸런스 게인을 산출할 수 있다. 속성 검출부(430)는 얼굴 영역에 기반하여 속성을 분석하기 위한 영역 분석부(440)와, 히스토그램(histogram)에 기반하여 역광(예: 배경 영역이 밝고 얼굴 영역이 어두운) 비율을 산출하기 위한 히스토그램 판단부(450)를 포함하여 구성할 수 있다.
영역 분석부(440)는 이미지에서 배경 영역과 얼굴 영역 간의 색 정보(예: 밝기 정보, RGB, 색 온도 등) 비율을 이용하여 속성을 판별할 수 있다. 한 실시 예에 따르면, 전자 장치는 이미지에서 얼굴 영역을 제외한 이미지 전체의 제1 데이터(예: 이미지 전체에 대응하는 색 정보로, RGB stat.background)와, 이미지에서 얼굴 영역의 제2 데이터(예: 얼굴 영역에 대응하는 색 정보로, RGB stat.face)의 비율을 산출할 수 있다. 이에 대하여, 후술하는 도면들을 참조하여 상세히 설명된다.
히스토그램 판단부(450)는 역광 비율을 속성 구분을 위한 기준 값에 반영할 수 있다. 예를 들면, 히스토그램 판단부(450)는 역광 비율에 따라 기준 값을 변경하기 위한 기준 값 감소 가중치(Threshold reduce weight)를 설정할 수 있다. 다양한 실시 예들에서, 역광 비율은 히스토그램(histogram)을 이용하여 구할 수 있다. 히스토그램은 이미지의 어두운 곳에서 밝은 부분까지의 픽셀(pixel) 분포를 나타낼 수 있다. 한 실시 예에 따르면, 히스토그램에서 이미지의 밝기 범위는 0 ~ 255를 포함할 수 있고, 0으로 갈수록 이미지가 어둡고 255로 갈수로 이미지가 밝은 상태를 나타낼 수 있다.
히스토그램 판단부(450)는 히스토그램 데이터를 이용한 역광 비율을 기준 값(예: 제1 속성 판별을 위한 제1 기준 값, 제2 속성 판별을 위한 제2 기준 값)에 반영하여, 속성 구분을 위한 제3 기준 값(예: 최종 기준 값)을 설정할 수 있다. 이에 대하여, 후술하는 도면들을 참조하여 상세히 설명된다.
이상에서 살펴본 바와 같이, 다양한 실시 예들에 따른 전자 장치는, 디스플레이(예: 도 1 또는 도 2의 디스플레이(160, 260)), 및 상기 디스플레이와 기능적으로 연결된 프로세서(예: 도 1 또는 도 2의 프로세서(120, 210)를 포함하고, 상기 프로세서는, 하나 이상의 객체들이 포함된 이미지를 획득하고, 상기 이미지에서 상기 하나 이상의 객체들 중 얼굴에 대응하는 제1 영역을 판단하고, 상기 하나 이상의 객체들 중 배경에 대응하는 제2 영역을 판단하고, 상기 제1 영역의 색 정보와 상기 제2 영역의 색 정보 간의 비율을 확인하고, 상기 비율이 설정된 제1 조건을 만족하는 경우, 제1 레벨로 상기 제1 영역에 대응하는 화이트 밸런스를 보정하고, 상기 비율이 설정된 제2 조건을 만족하는 경우, 제2 레벨로 상기 제1 영역에 대응하는 화이트 밸런스를 보정하고, 및 상기 제1 레벨 및 상기 제2 레벨 중 대응하는 하나의 레벨로 상기 제1 영역에 대응하는 화이트 밸런스가 보정된 상기 이미지를 상기 디스플레이를 통해 표시하도록 구성할 수 있다.
다양한 실시 예들에 따라, 상기 프로세서는, 상기 이미지에서 역광 비율을 판단하고, 상기 역광 비율을 더 이용하여, 상기 제1 영역에 대응하는 화이트 밸런스를 보정하도록 구성할 수 있다.
다양한 실시 예들에 따라, 상기 프로세서는, 상기 이미지로부터 산출된 히스토그램 데이터에 기반하여 상기 역광 비율을 판단하도록 구성할 수 있다.
다양한 실시 예들에 따라, 상기 프로세서는, 상기 보정하는 동작의 일부로서, 상기 제1 영역의 자동 화이트 밸런스(AWB, auto white balance)를 산출하고, 및 상기 자동 화이트 밸런스에 상기 제1 지정된 조건에 대응하는 제1 보정 값을 곱하여 상기 제1 레벨로 보정하거나, 또는 상기 제2 지정된 조건에 대응하는 제2 보정 값을 곱하여 상기 제2 레벨로 보정하도록 구성할 수 있다.
이상에서 살펴본 바와 같이, 다양한 실시 예들에 따른 전자 장치는, 카메라 모듈(291), 디스플레이(예: 도 1 또는 도 2의 디스플레이(160, 260), 및 상기 카메라 모듈 및 상기 디스플레이와 기능적으로 연결된 프로세서(예: 도 1 또는 도 2의 프로세서(120, 210)를 포함하고, 상기 프로세서는, 얼굴 객체가 포함된 이미지를 획득하고, 상기 이미지에서 배경 영역과 얼굴 영역을 구분하고, 상기 얼굴 영역에 대한 속성을 결정하고, 상기 얼굴 영역의 속성에 기반하여 화이트 밸런스를 보정하기 위한 가중치를 산출하고, 상기 가중치에 기반하여 상기 화이트 밸런스를 보정하고, 보정된 화이트 밸런스에 기반하여 상기 이미지를 상기 디스플레이를 통해 표시하도록 구성할 수 있다.
다양한 실시 예들에 따라, 상기 얼굴 영역의 속성은, 상기 이미지에서 상기 얼굴 영역의 객체에 대응하는 인종 또는 피부색과 관련된 지표를 포함할 수 있다.
다양한 실시 예들에 따라, 상기 프로세서는, 상기 얼굴 영역의 색 정보 비율에 기반하여 상기 속성을 결정하도록 구성할 수 있다.
다양한 실시 예들에 따라, 상기 프로세서는, 상기 얼굴 영역의 색 정보 비율이 설정된 제1 기준 값 이하인 경우, 상기 얼굴 영역의 객체를 제1 속성으로 결정하고, 상기 얼굴 영역의 색 정보 비율이 설정된 제2 기준 값 이상인 경우, 상기 얼굴 영역의 객체를 제2 속성으로 결정하고, 상기 제1 속성 또는 상기 제2 속성에 기반하여 상기 가중치를 결정하도록 구성할 수 있다.
다양한 실시 예들에 따라, 상기 프로세서는, 상기 배경 영역에 연관된 제1 화이트 밸런스 게인과, 상기 얼굴 영역에 연관된 제2 화이트 밸런스 게인 및 상기 속성에 따른 가중치에 기반하여 제3 화이트 밸런스를 결정하고, 상기 결정된 제3 화이트 밸런스에 기반하여 상기 이미지를 제공하도록 구성할 수 있다.
다양한 실시 예들에 따라, 상기 프로세서는, 상기 얼굴 영역의 색 정보 비율을 산출하고, 상기 색 정보 비율과 속성 판별을 위해 설정된 적어도 하나의 기준 값을 비교하고, 상기 비교하는 결과에 기반하여, 색 정보 비율이 제1 기준 값 이하에 포함되는지, 제2 기준 값 이상에 포함되는지, 또는 제1 기준 값과 제2 기준 값의 사이에 포함되는지 여부를 판단하도록 구성할 수 있다.
다양한 실시 예들에 따라, 상기 프로세서는, 상기 색 정보 비율이 상기 제1 기준 값과 상기 제2 기준 값의 사이에 대응하는 경우, 상기 얼굴 영역의 객체를 제3 속성으로 결정하도록 구성할 수 있다.
다양한 실시 예들에 따라, 상기 프로세서는, 상기 배경 영역에 대응하는 색 정보에 더 기반하여 상기 색 정보 비율을 산출하도록 구성할 수 있다.
다양한 실시 예들에 따라, 상기 프로세서는, 상기 이미지에서 역광 비율에 따라 속성 구분을 위한 밝기 정보의 기준 값을 변경하고, 변경된 기준 값에 기반하여 상기 속성을 결정하도록 구성할 수 있다.
다양한 실시 예들에 따라, 상기 프로세서는, 상기 역광 비율에 따라 상기 기준 값을 변경하기 위한 감소 가중치(reduce weight)를 산출하고, 상기 감소 가중치를 이용하여 다른 기준 값을 산출하고, 상기 얼굴 영역의 색 정보 비율과 상기 다른 기준 값에 기반하여 상기 얼굴 영역의 속성을 결정하도록 구성할 수 있다.
다양한 실시 예들에 따라, 상기 프로세서는, 상기 이미지가 복수의 얼굴 영역들을 포함하는 경우, 상기 복수의 얼굴 영역들의 색 정보 비율과 기준 값을 비교하고, 상기 비교하는 결과에 기반하여, 상기 복수의 얼굴 영역들에 대응하는 제1 속성과 제2 속성을 결정하고, 상기 복수의 얼굴 영역들 중 상기 결정된 제1 속성에 대응하는 얼굴 영역과 상기 결정된 제2 속성에 대응하는 얼굴 영역의 개수의 비를 판단하고, 상기 제1 속성과 상기 제2 속성의 개수의 비에 기반하여 화이트 밸런스 보정을 위한 가중치를 산출하도록 구성할 수 있다.
다양한 실시 예들에 따라, 상기 프로세서는, 상기 개수의 비가 높은 어느 하나의 속성에 기반하여 상기 가중치를 결정하거나, 또는 상기 개수의 비의 정도에 따라 상기 가중치를 차등 결정하도록 구성할 수 있다.
도 7은 본 발명의 다양한 실시 예들에 따른 전자 장치의 동작 방법을 도시하는 흐름도이다.
도 7을 참조하면, 다양한 실시 예들에서, 도 7은 전자 장치에서 이미지 촬영을 수행할 때, 얼굴 영역의 속성(예: 인종)에 기반하여 화이트 밸런스 게인(gain)을 산출하여, 화이트 밸런스를 보정하는 예시를 나타낼 수 있다.
동작(701)에서, 전자 장치(예: 도 1 또는 도 2의 전자 장치(101, 201))의 프로세서(예: 프로세싱 회로(processing circuitry)를 포함하는 하나 또는 그 이상의 프로세서들)(예: 도 1 또는 도 2의 프로세서(120, 210), 이하, 프로세서(210))는 촬영 모드를 수행할 수 있다. 한 실시 예에 따르면, 프로세서(210)는, 사용자 입력에 기반하여 카메라(예: 도 2의 카메라 모듈(291))를 이용하여 이미지를 촬영하는 어플리케이션 실행을 감지하는 것에 기반하여 촬영 모드로 진입할 수 있다.
동작(703)에서, 프로세서(210)는 이미지를 획득할 수 있다. 한 실시 예에 따르면, 프로세서(210)는 카메라 모듈(291)을 통해 전달되는 이미지를 획득할 수 있다.
동작(705)에서, 프로세서(210)는 획득된 이미지에서 얼굴 영역을 검출할 수 있다. 다양한 실시 예들에서, 프로세서(210)는 다양한 얼굴 검출(face detection)(또는 얼굴 인식) 기술(또는 알고리즘)에 기반하여, 이미지에서 얼굴 영역과 배경 영역을 구분할 수 있다. 한 실시 예에 따르면, 프로세서(210)는 특징 점들의 위치나 크기 등을 추출하는 방식으로 얼굴 영역을 검출할 수 있다.
동작(707)에서, 프로세서(210)는 얼굴 영역의 속성을 결정할 수 있다. 다양한 실시 예들에서, 얼굴 영역의 속성은, 이미지에서 얼굴 영역에 대응하는 사용자 얼굴에 대응하는 인종을 포함할 수 있다. 한 실시 예에 따르면, 프로세서(210)는 얼굴 영역의 색 정보(예: 밝기 정보, RGB, 색 온도 등)의 비율에 기반하여 속성을 결정할 수 있다. 예를 들면, 프로세서(210)는 얼굴 영역의 색 정보의 비율이 설정된 제1 기준 값 이하인 경우, 제1 속성(예: 흑인)으로 결정할 수 있고, 얼굴 영역의 색 정보의 비율이 설정된 제2 기준 값 이상인 경우, 제2 속성(예: 황인/백인)으로 결정할 수 있다. 다양한 실시 예들에 따라, 얼굴 영역의 속성을 구분하는 예시에 대하여, 후술하는 도면들을 참조하여 상세히 설명된다.
동작(709)에서, 프로세서(210)는 얼굴 영역의 속성에 기반하여 화이트 밸런스 게인을 산출할 수 있다. 다양한 실시 예들에 따르면, 프로세서(210)는 제1 게인(예: 이미지 전체에 연관된 화이트 밸런스 게인), 제2 게인(예: 이미지의 얼굴 영역에 연관된 화이트 밸런스 게인) 및 속성에 따른 속성 비율(또는 가중치)에 기반하여 최종 화이트 밸런스 게인을 획득할 수 있다. 다양한 실시 예들에서, 속성 비율은 제1 속성(예: 흑인) 또는 제2 속성(예: 황인/백인)에 대응하는 화이트 밸런스 게인 오프셋(WB gain offset)을 나타낼 수 있다. 다양한 실시 예들에 따라, 최종 화이트 밸런스 게인을 산출하는 예시에 대하여, 후술하는 도면들을 참조하여 상세히 설명된다.
동작(711)에서, 프로세서(210)는 산출된 화이트 밸런스 게인에 기반하여 화이트 밸런스를 보정할 수 있다.
동작(713)에서, 프로세서(210)는 보정된 화이트 밸런스에 기반하여 이미지를 디스플레이를 통해 표시할 수 있다.
도 8은 본 발명의 다양한 실시 예들에서 얼굴 영역의 속성을 구분하는 예를 설명하기 위해 도시하는 도면이다.
일반적으로, 피부색은 조명 환경 등에 따라 변할 수 있으므로, 피부색으로 인종을 구분하는 것은 정확도가 떨어질 수 있다. 또한 황인과 백인은 피부색이 유사할 수 있으므로, 황인과 백인의 구분은 정확도가 낮아질 수 있다. 이에, 다양한 실시 예들에서는 크게 제1 속성(예: 흑인)과 제2 속성(예: 황인/백인)으로 구분하는 것을 예시로 한다.
도 8을 참조하면, 다양한 실시 예들에서는, 제1 속성을 판별하기 위한 제1 기준 값(예: Threshold 1)과 제2 속성을 판별하기 위한 제2 기준 값(예: Threshold 2)을 설정할 수 있다.
한 실시 예에 따르면, 제1 속성(예: 흑인)의 경우, 제2 속성(예: 황인/백인)에 비해, 상대적으로 밝기가 어두울 수 있다. 다양한 실시 예들에서는, 제1 속성에 대한 속성 판별 비율을 "0"으로 설정할 수 있고, 제2 속성에 대한 속성 판별 비율을 "1"로 설정하는 것을 예로 할 수 있다.
다양한 실시 예들에서는, 이미지에서 배경 영역과 얼굴 영역 간의 색 정보(예: 밝기 정보, RGB, 색 온도 등) 비율을 이용하여 속성을 판별할 수 있다. 한 실시 예에 따르면, 제1 속성(예: 흑인)은 제2 속성(예: 황인/백인) 대비 밝기가 어두울 수 있으므로, 다양한 실시 예들에서는, 화이트 밸런스 조정을 위한 입력 데이터(예: RGB statistics data)를 이용하여, 속성을 판별할 수 있다. 한 실시 예에 따르면, 전자 장치는 이미지에서 얼굴 영역을 제외한 이미지 전체의 제1 데이터(예: 이미지 전체에 대응하는 색 정보(예: 이미지 전체 밝기))와, 이미지에서 얼굴 영역의 제2 데이터(예: 얼굴 영역에 대응하는 색 정보(예: 얼굴 영역 밝기))의 비율(예: 아래 <수학식 1>)을 이용하여 속성 비율을 산출할 수 있다.
Figure PCTKR2018003333-appb-I000001
<수학식 1>에서, HRR은 속성(인종) 판별 비율(human race ratio)(이하, 속성 비율)을 나타낼 수 있고, Lbackground(예: RGB stat.background)는 이미지 전체에 대응하는 색 정보(예: 이미지 전체 밝기)를 나타낼 수 있고, Lface(예: RGB stat.face)는 이미지에서 얼굴 영역에 대응하는 색 정보(예: 얼굴 영역 밝기)를 나타낼 수 있다.
다양한 실시 예들에서, 입력 데이터(예: RGB statistics data)는 얼굴 영역과 얼굴 영역 제외 영역(예: 배경 영역) 각각에서, 밝기를 표준 광원(예: 태양광과 유사한 스펙트럼을 가지는 광원)에 정규화 시켜, 밝기 정보를 나타낼 수 있는 값(L)로 변환하여 사용할 수 있다. 정규화는 표준 광원 하에서 촬영된 표준 컬러차트(예: Macbeth chart)의 그레이 패치(gray patch)의 RAW RGB를 1:1:1로 만드는 정규화 게인(gain)을 입력 데이터(예: RGB statistics data)에 곱하여 수행할 수 있다. 예를 들면, 아래 <수학식 2>와 같이 수행될 수 있다.
Figure PCTKR2018003333-appb-I000002
다양한 실시 예들에 따르면, <수학식 2>와 같이 산출된 밝기 정보에 기반하여, 최종 밝기 값 L을 아래 <수학식 3>의 예시와 같이 산출할 수 있다. 예를 들면, R', G', B'를 <수학식 3>과 같이 가중 합계(weighted summation)하여 사용할 수 있다.
Figure PCTKR2018003333-appb-I000003
다양한 실시 예들에 따르면, 전자 장치는 제1 데이터와 제2 데이터에 기반하여 산출된 배경 영역과 얼굴 영역 간의 색 정보 비율(HRR)을 이용하여, 색 정보 비율이 제1 기준 값에 대응하는지, 또는 제2 기준 값에 대응하는지 비교 분석할 수 있다. 다양한 실시 예들에 따르면, 전자 장치는 색 정보 비율이 대응하는 기준 값에 기반하여 속성(예: 인종)을 결정할 수 있다. 한 실시 예에 따르면, 전자 장치는 색 정보 비율이 제1 기준 값 이하인 경우 제1 속성(예: 흑인)으로 판별할 수 있고, 색 정보 비율이 제2 기준 값 이상인 경우 제2 속성(예: 황인/백인)으로 판별할 수 있다.
다양한 실시 예들에 따르면, 전자 장치는 색 정보 비율이 제1 기준 값 또는 제2 기준 값에 대응하지 않으면, 예를 들면, 색 정보 비율이 제1 기준 값과 제2 기준 값의 사이에 존재하는 값이면(예: 중간 비율 값을 가지는 경우), 보간법(interpolation)을 이용하여 제3 속성(예: 흑인과 황인/백인의 색 정보 사이의 중간 색 정보)으로 결정할 수 있다.
다양한 실시 예들에 따르면, 전자 장치는 제1 기준 값 이하 또는 제2 기준 값 이상은 밝기에 관계없이 일정한 속성 비율(제1 속성 또는 제2 속성)을 가지도록 하고, 제1 기준 값과 제2 기준 값 사이에서는 속성 비율을 제1 속성과 제2 속성의 보간에 의해 제3 속성을 가지도록 설정할 수 있다.
다양한 실시 예들에 따르면, 전자 장치는 제1 속성(예: 흑인)에 대응하는 화이트 밸런스 게인 오프셋(WB gain offset)(예: 제1 가중치)과 제2 속성(예: 황인/백인)에 대응하는 화이트 밸런스 게인 오프셋(예: 제2 가중치) 등을 화이트 밸런스 보정 파라미터(parameter)로 저장 및 관리할 수 있다. 예를 들면, 전자 장치는 얼굴 기반 화이트 밸런스로 산출된 화이트 밸런스 게인(예: 제2 게인)과 해당 속성에 따른 화이트 밸런스 게인 오프셋(예: 가중치)을 곱하여 최종 화이트 밸런스 게인(예: 최종 보정 값)을 산출할 수 있다.
한편, 이미지 촬영 시 역광이 존재할 수 있다. 예를 들면, 역광의 경우, 이미지에서 배경 영역은 밝고 얼굴 영역은 어둡게 만들 수 있다. 이러한 경우, 이미지에서 얼굴 영역의 객체가, 실질적으로 제2 속성(예: 황인/백인)인 경우이더라도, 제2 속성으로 인식되지 않고 제1 속성(예: 흑인)으로 검출되는 경우가 발생할 수 있다. 이에, 다양한 실시 예들에서는 역광 비율을 고려하여, 속성을 판별하기 위한 기준 값을 조정할 수 있다. 이에 대하여, 도 9 및 도 10을 참조하여 살펴보기로 한다.
도 9 및 도 10은 본 발명의 다양한 실시 예들에서 역광을 고려하여 속성 구분을 위한 기준 값을 설정하는 예를 설명하기 위해 도시하는 도면들이다.
도 9에 도시한 바와 같이, 다양한 실시 예들에 따르면, 역광 비율을 속성 구분을 위한 기준 값에 반영할 수 있다. 예를 들면, 전자 장치는 역광 비율에 따라 기준 값을 변경하기 위한 기준 값 감소 가중치(Threshold reduce weight)를 설정할 수 있다. 다양한 실시 예들에서, 역광 비율은 히스토그램(histogram)을 이용하여 구할 수 있다. 히스토그램은 이미지의 어두운 곳에서 밝은 부분까지의 픽셀(pixel) 분포를 나타낼 수 있다. 한 실시 예에 따르면, 히스토그램 그래프의 가로축은 이미지의 밝기로 그 범위는 0 ~ 255를 포함할 수 있고, 0으로 갈수록 이미지가 어둡고 255로 갈수로 이미지가 밝은 상태를 나타낼 수 있다.
따라서, 다양한 실시 예들에서는, 히스토그램 데이터를 이용한 역광 비율을 기준 값(예: 제1 속성 판별을 위한 제1 기준 값, 제2 속성 판별을 위한 제2 기준 값)에 반영하여, 아래 <수학식 4>와 같이, 속성 구분을 위한 최종 기준 값을 설정할 수 있다.
Figure PCTKR2018003333-appb-I000004
<수학식 4>에서, FTH는 최종 기준 값을 나타낼 수 있고, Threshold는 속성에 따라 기본 설정된 기준 값을 나타낼 수 있고, Reduce weight는 역광 비율에 따른 기준 값 감소 가중치를 나타낼 수 있다. 한 실시 예에 따르면, Reduce weight에 따라 제1 속성 판별을 위한 제1 기준 값과 제2 속성 판별을 위한 제2 기준 값 각각이, Reduce weight만큼 변경(예: 감소)될 수 있다. 이러한 예시가 도 10에 도시된다.
도 10에 도시한 바와 같이, 엘리먼트 1010은 역광 비율이 고려되지 않은 상태의 속성 판별 비율 별 기준 값(예: 제1 기준 값, 제2 기준 값)을 나타낼 수 있고, 엘리먼트 1020은 역광 비율이 고려된 상태의 속성 판별 비율 별 기준 값(예: 제3 기준 값, 제4 기준 값)을 나타낼 수 있다.
도 10을 참조하면, 역광 비율에 따라 엘리먼트 1020에 기반하여 최종 값을 설정하는 경우, 기존의 제1 속성(예: 흑인)을 판별하기 제1 기준 값이 제3 기준 값(1030)으로 변경될 수 있고, 제2 속성(예: 황인/백인)을 판별하기 위한 제2 기준 값이 제4 기준 값(1040)으로 변경될 수 있다. 이를 통해, 다양한 실시 예들에서는, 역광이 존재하더라도, 얼굴 영역의 제2 속성이 제1 속성으로 오인식 되는 것을 방지할 수 있다.
도 11은 본 발명의 다양한 실시 예들에 따른 전자 장치의 동작 방법을 도시하는 흐름도이다.
도 11을 참조하면, 다양한 실시 예들에서, 도 11은 전자 장치가 획득된 이미지에서 얼굴 영역의 속성(예: 인종)을 검출하고, 얼굴 영역의 속성에 기반하여 최종 화이트 밸런스 게인을 산출하여 이미지를 표시하는 예시를 나타낼 수 있다.
동작(1101)에서, 전자 장치(예: 도 1 또는 도 2의 전자 장치(101, 201))의 프로세서(예: 도 1 또는 도 2의 프로세서(120, 210), 이하, 프로세서(210))는 이미지를 획득할 수 있다. 한 실시 예에 따르면, 프로세서(210)는 카메라 모듈(291)을 통해 전달되는 이미지를 획득할 수 있다. 다양한 실시 예들에서, 획득되는 이미지는 하나 또는 그 이상의 객체들을 포함할 수 있고, 디스플레이를 통해 실시간 표시하기 위한 프리뷰 이미지일 수 있다.
동작(1103)에서, 프로세서(210)는 획득된 이미지에서 얼굴 영역을 검출할 수 있다. 다양한 실시 예들에서, 프로세서(210)는 다양한 얼굴 검출 기술(또는 알고리즘)에 기반하여, 이미지에서 얼굴 영역과 배경 영역을 구분할 수 있다.
동작(1105)에서, 프로세서(210)는 얼굴 영역의 색 정보 비율을 산출할 수 있다. 한 실시 예에 따르면, 프로세서(210)는 이미지에서 얼굴 영역을 제외한 배경 영역에 관련된 제1 데이터(예: 이미지 전체에 대응하는 색 정보)와, 이미지에서 얼굴 영역에 관련된 제2 데이터(예: 얼굴 영역에 대응하는 색 정보)의 비율(예: 색 정보 비율)을 산출할 수 있다.
동작(1107)에서, 프로세서(210)는 색 정보 비율과 기준 값을 비교할 수 있다. 한 실시 예에 따르면, 프로세서(210)는 결정된 속성 판별 비율을, 제1 속성을 위한 제1 기준 값, 제2 속성을 위한 제2 기준 값, 및 제3 속성을 위한 제3 기준 값과 비교할 수 있다. 한 실시 예에 따르면, 프로세서(210)는 전술한 <수학식 1>을 이용하여, 색 정보 비율에 따른 속성(예: 속성 판별 비율)을 결정할 수 있다.
다양한 실시 예들에서, 프로세서(210)는 비교하는 결과에 기반하여, 색 정보 비율이 제1 기준 값 이하에 포함되는지, 제2 기준 값 이상에 포함되는지, 또는 제1 기준 값과 제2 기준 값의 사이에 포함되는지 여부를 판단할 수 있다. 예를 들면, 동작(1109) 및 동작(1113)을 수행할 수 있다. 다양한 실시 예들에서, 동작(1109)와 동작(1113)은 도시된 순서에 한정하는 것은 아니며, 순차적으로, 역순차적으로, 또는 병렬적으로 수행할 수 있다.
동작(1109)에서, 프로세서(210)는 색 정보 비율이 제1 기준 값 이하에 포함되는지 여부를 판단할 수 있다.
동작(1109)에서, 프로세서(210)는 색 정보 비율이 제1 기준 값 이하에 포함되는 것을 판단하면(동작(1109)의 예), 동작(1111)에서, 얼굴 영역의 객체를 제1 속성으로 결정할 수 있다.
동작(1109)에서, 프로세서(210)는 색 정보 비율이 제1 기준 값 이하에 포함되지 않으면(동작(1109)의 아니오), 동작(1113)에서, 색 정보 비율이 제2 기준 값 이상에 포함되는지 여부를 판단할 수 있다.
동작(1113)에서, 프로세서(210)는 색 정보 비율이 제2 기준 값 이상에 포함되는 것을 판단하면(동작(1113)의 예), 동작(1115)에서, 얼굴 영역의 객체를 제2 속성으로 결정할 수 있다.
동작(1113)에서, 프로세서(210)는 색 정보 비율이 제2 기준 값 이상에 포함되지 않으면(동작(1113)의 아니오), 동작(1117)에서, 얼굴 영역의 객체를 제3 속성으로 결정할 수 있다. 한 실시 예에 따르면, 프로세서(210)는 색 정보 비율이 제1 기준 값과 제2 기준 값의 사이에 존재하는 것으로 판단하고, 얼굴 영역의 객체를 제1 속성과 제2 속성의 중간 속성인 제3 속성인 것으로 판단할 수 있다. 다양한 실시 예들에 따르면, 프로세서(210)는 색 정보 비율이 제1 기준 값과 제2 기준 값의 사이에 존재하는 경우 제1 속성과 제2 속성의 보간에 의해 제3 속성을 생성할 수 있다.
동작(1119)에서, 프로세서(210)는 결정된 속성에 기반하여 화이트 밸런스 게인을 산출할 수 있다. 한 실시 예에 따르면, 프로세서(210)는, 동작(1111), 동작(1115), 또는 동작(1117)에서 결정하는 제1 속성, 제2 속성, 또는 제3 속성에 따른 화이트 밸런스 게인 오프셋(예: 가중치)을 결정할 수 있다. 프로세서(210)는 얼굴 기반 화이트 밸런스 게인에 화이트 밸런스 게인 오프셋을 곱하여 최종 화이트 밸런스 게인(예: 최종 보정 값)을 산출할 수 있다.
동작(1121)에서, 프로세서(210)는 산출된 화이트 밸런스 게인에 기반하여 화이트 밸런스를 보정할 수 있다. 한 실시 예에 따르면, 프로세서(210)는 얼굴 영역의 자동 화이트 밸런스(AWB)를 산출하고, 자동 화이트 밸런스에 제1 속성에 대응하는 제1 보정 값을 곱하여 제1 레벨로 화이트 밸런스를 보정하거나, 자동 화이트 밸런스에 제2 속성에 대응하는 제2 보정 값을 곱하여 제2 레벨로 화이트 밸런스를 보정할 수 있다.
동작(1123)에서, 프로세서(210)는 보정된 화이트 밸런스에 기반하여 이미지를 디스플레이를 통해 표시할 수 있다.
도 12는 본 발명의 다양한 실시 예들에 따른 전자 장치의 동작 방법을 도시하는 흐름도이다.
도 12를 참조하면, 다양한 실시 예들에서, 도 12는 이미지의 역광(예: 배경 영역이 밝고 얼굴 영역이 어두운 상태) 조건(예: 역광 비율)에 따라 속성 구분을 위한 밝기 정보의 기준 값을 변경하고, 변경된 기준 값에 기반하여 속성을 결정하는 예시를 나타낼 수 있다.
동작(1201)에서, 전자 장치의 프로세서(210)는 이미지에서 역광 비율을 확인할 수 있다. 한 실시 예에 따르면, 프로세서(210)는 히스토그램 데이터를 이용하여 역광 비율을 판별할 수 있다.
동작(1203)에서, 프로세서(210)는 역광 비율에 기반하여 기준 값을 조정할 수 있다. 한 실시 예에 따르면, 프로세서(210)는, 전술한 <수학식 4>로 예시한 바와 같이, 역광 비율에 따라 기준 값을 변경하기 위한 기준 값 감소 가중치(Threshold reduce weight)를 기준 값에 곱하여 최종 기준 값을 설정할 수 있다.
동작(1205)에서, 프로세서(210)는 얼굴 영역의 색 정보 비율과 조정된 기준 값에 기반하여 얼굴 영역의 속성을 결정할 수 있다.
도 13은 본 발명의 다양한 실시 예들에 따른 전자 장치의 동작 방법을 도시하는 흐름도이다.
도 13을 참조하면, 다양한 실시 예들에서, 도 13은 이미지가 복수의 얼굴 영역들을 포함하는 경우, 복수의 얼굴 영역들에 기반하여 화이트 밸런스 게인 오프셋(예: 가중치)을 결정하고, 결정된 화이트 밸런스 게인 오프셋에 기반하여 최종 화이트밸런스 게인을 산출하는 예시를 나타낼 수 있다.
동작(1301)에서, 전자 장치의 프로세서(210)는 이미지에서 얼굴 영역을 확인할 수 있다. 한 실시 예에 따르면, 프로세서(210)는 이미지에서 얼굴 영역을 검출하고, 검출된 얼굴 영역의 개수를 판단할 수 있다. 한 실시 예에 따르면, 프로세서(210)는 이미지에서 얼굴 수(face count)와 얼굴 위치(face position) 등에 관련된 얼굴 연관 정보를 분석할 수 있다. 다양한 실시 예들에서, 얼굴 연관 정보는 얼굴 검출부에 의해 분석 및 제공될 수도 있다.
동작(1303)에서, 프로세서(210)는 확인하는 결과에 기반하여 이미지에 복수의 얼굴 영역들이 포함되는지 여부를 판단할 수 있다.
동작(1303)에서, 프로세서(210)는 이미지에서 검출된 얼굴 영역이 복수의 얼굴 영역들이 아닌 것을 판단하면(동작(1303)의 아니오), 동작(1305)에서, 얼굴 영역의 색 정보 비율과 기준 값을 비교할 수 있다. 한 실시 예에 따라, 프로세서(210)는 전술한 바와 같이 배경 영역과 얼굴 영역에 기반하여, 얼굴 영역에 대한 색 정보 비율을 산출할 수 있고, 산출된 색 정보 비율을, 속성 판별을 위한 기준 값(예: 제1 속성을 위한 제1 기준 값, 제2 속성을 위한 제2 기준 값 등)과 비교할 수 있다.
동작(1307)에서, 프로세서(210)는 비교하는 결과에 기반하여, 얼굴 영역의 객체에 대응하는 속성을 결정할 수 있다. 한 실시 예에 따르면, 프로세서(210)는 색 정보 비율이 제1 기준 값 이하에 포함되면 제1 속성을 결정할 수 있고, 색 정보 비율이 제2 기준 값 이상에 포함되면 제2 속성을 결정할 수 있고, 색 정보 비율이 제1 기준 값과 제2 기준 값 사이에 포함되면 제3 속성을 결정할 수 있다.
동작(1309)에서, 프로세서(210)는 결정된 속성에 기반하여 화이트 밸런스 게인을 산출할 수 있다. 한 실시 예에 따르면, 프로세서(210)는 결정하는 제1 속성, 제2 속성, 또는 제3 속성에 따른 화이트 밸런스 게인 오프셋(예: 가중치)을 결정할 수 있다. 프로세서(210)는 얼굴 기반 화이트 밸런스 게인에, 결정된 화이트 밸런스 게인 오프셋을 곱하여 최종 화이트 밸런스 게인(예: 최종 보정 값)을 산출할 수 있다.
동작(1303)에서, 프로세서(210)는 이미지에서 검출된 얼굴 영역이 복수의 얼굴 영역들인 것을 판단하면(동작(1303)의 예), 동작(1311)에서, 복수의 얼굴 영역들의 색 정보 비율과 기준 값을 비교할 수 있다. 한 실시 예에 따르면, 프로세서(210)는 이미지에서 제1 얼굴 영역, 제2 얼굴 영역, 제3 얼굴 영역 등의 복수의 얼굴 영역들에 대응하는 색 정보 비율을 각각 산출할 수 있고, 산출된 각 색 정보 비율을, 속성 판별을 위한 기준 값(예: 제1 속성을 위한 제1 기준 값, 제2 속성을 위한 제2 기준 값 등)과 비교할 수 있다.
동작(1313)에서, 프로세서(210)는 비교하는 결과에 기반하여, 복수의 얼굴 영역들에 대응하는 적어도 하나의 속성을 결정할 수 있다. 한 실시 예에 따르면, 프로세서(210)는 복수의 얼굴 영역들에서 색 정보 비율이 제1 기준 값 이하에 포함되는 적어도 하나의 얼굴 영역을 제1 속성으로 결정할 수 있고, 복수의 얼굴 영역에서 색 정보 비율이 제1 기준 값 이상에 포함되는 적어도 하나의 얼굴 영역을 제2 속성으로 결정할 수 있고, 복수의 얼굴 영역에서 색 정보 비율이 제1 기준 값과 제2 기준 값 사이에 포함되는 적어도 하나의 얼굴 영역을 제3 속성으로 결정할 수 있다.
동작(1315)에서, 프로세서(210)는 결정된 속성의 차지 비율(또는 개수의 비)을 판단할 수 있다. 한 실시 예에 따르면, 프로세서(210)는 복수의 얼굴 영역에 기반하여 적어도 하나의 제1 속성과 적어도 하나의 제2 속성이 결정되면, 제1 속성과 제2 속성이 복수의 얼굴 영역들에서 차지되는 비율을 판단할 수 있다. 예를 들면, 프로세서(210)는 복수의 얼굴 영역들 중 결정된 제1 속성에 대응하는 얼굴 영역과 결정된 제2 속성에 대응하는 얼굴 영역의 개수의 비를 판단할 수 있다. 한 실시 예에 따라, 복수의 얼굴 영역들이 5개이고, 5개의 복수의 얼굴 영역들 중 제1 속성의 객체를 가지는 얼굴 영역이 3개이고, 제2 속성의 객체를 가지는 얼굴 영역이 2개인 것을 가정할 수 있다. 프로세서(210)는 제1 속성이 제2 속성에 비해 상대적으로 차지하는 비율(또는 개수의 비)이 높은 것을 판단할 수 있다.
동작(1317)에서, 프로세서(210)는 속성(예: 제1 속성과 제2 속성)의 차지 비율(또는 개수의 비)에 기반하여 화이트 밸런스 게인을 산출할 수 있다. 한 실시 예에 따르면, 프로세서(210)는 차지 비율이 높은 속성에 따른 화이트 밸런스 게인 오프셋(예: 가중치)을 결정할 수 있다. 한 실시 예에 따르면, 프로세서(210)는 차지 비율의 정도에 따라 화이트 밸런스 게인 오프셋(예: 가중치)를 차등적으로 결정할 수도 있다. 프로세서(210)는 얼굴 기반 화이트 밸런스 게인에, 결정된 화이트 밸런스 게인 오프셋을 곱하여 최종 화이트 밸런스 게인(예: 최종 보정 값)을 산출할 수 있다.
도 14는 본 발명의 다양한 실시 예들에 따른 전자 장치의 동작 방법을 도시하는 흐름도이다.
도 14를 참조하면, 다양한 실시 예들에서, 도 14는 전자 장치가 획득된 이미지에서 얼굴 영역과 배경 영역을 구분하고, 얼굴 영역과 배경 영역에 기반하여 설정된 비율(예: 색 정보 비율)을 판단하고, 설정된 비율이 만족되는 지정된 조건(예: 제1 속성, 제2 속성)에 따라 화이트 밸런스를 보정하는 예시를 나타낼 수 있다.
동작(1401)에서, 전자 장치의 프로세서(210)는 촬영 모드에서 이미지 촬영을 수행할 수 있다.
동작(1403)에서, 프로세서(210)는 이미지 촬영에 기반하여 이미지를 획득할 수 있다. 한 실시 예에 따르면, 프로세서(210)는 카메라 모듈(291)을 통해 전달되는 이미지를 획득할 수 있다. 다양한 실시 예들에서, 획득되는 이미지는 하나 또는 그 이상의 객체들을 포함할 수 있고, 디스플레이를 통해 실시간 표시하기 위한 프리뷰 이미지일 수 있다.
동작(1405)에서, 프로세서(210)는 이미지에서 하나 또는 그 이상의 객체들 중 얼굴에 대응하는 제1 영역(예: 얼굴 영역)을 판단할 수 있다.
동작(1407)에서, 프로세서(210)는 이미지에서 하나 또는 그 이상의 객체들 중 배경에 대응하는 제2 영역(예: 배경 영역)을 판단할 수 있다.
동작(1409)에서, 프로세서(210)는 제1 영역과 제2 영역에 기반하여 설정된 비율을 확인할 수 있다. 한 실시 예에 따르면, 프로세서(210)는 제1 영역의 색 정보와 제2 영역의 색 정보 간의 비율을 확인할 수 있다. 다양한 실시 예들에서, 색 정보는, 예를 들면, 밝기 정보, RGB, 또는 색 온도 등에 적어도 하나를 포함할 수 있다.
동작(1411)에서, 프로세서(210)는 비율이 설정된 제1 조건을 만족하는지 여부를 판단할 수 있다. 한 실시 예에 따르면, 프로세서(210)는 비율이, 제1 영역의 객체에 대응하는 속성을 판별하기 위한 제1 기준 값에 대응하는지 여부를 판단할 수 있다.
동작(1411)에서, 프로세서(210)는 비율이 제1 조건을 만족하는 경우(동작(1411)의 예), 동작(1413)에서, 제1 레벨로 제1 영역에 대응하는 화이트 밸런스를 보정할 수 있다. 한 실시 예에 따르면, 프로세서(210)는 제1 영역에 대응하는 자동 화이트 밸런스(AWB)(예: 얼굴 기반 화이트 밸런스)에, 제1 조건에 대응하는 제1 보정 값(예: 제1 조건에 지정된 화이트 밸런스 게인 오프셋(예: 제1 가중치))를 곱하여 산출된 제1 레벨에 기반하여 화이트 밸런스를 보정할 수 있다.
동작(1411)에서, 프로세서(210)는 비율이 제2 조건을 만족하는 경우(동작(1411)의 아니오), 동작(1415)에서, 제2 레벨로 제1 영역에 대응하는 화이트 밸런스를 보정할 수 있다. 한 실시 예에 따르면, 프로세서(210)는 제1 영역에 대응하는 자동 화이트 밸런스(AWB)에, 제2 조건에 대응하는 제2 보정 값(예: 제2 조건에 지정된 화이트 밸런스 게인 오프셋(예: 제2 가중치))를 곱하여 산출된 제2 레벨에 기반하여 화이트 밸런스를 보정할 수 있다.
동작(1417)에서, 프로세서(210)는 제1 레벨 및 제2 레벨 중 대응하는 하나의 레벨로 제1 영역에 대응하는 화이트 밸런스가 보정된 이미지를 디스플레이를 통해 표시하도록 제어할 수 있다.
다양한 실시 예들에 따르면, 프로세서(210)는 이미지로부터 산출된 히스토그램 데이터에 기반하여 역광 비율을 판단하고, 판단하는 역광 비율을 이용하여, 제1 영역에 대응하는 화이트 밸런스를 보정할 수도 있다.
도 15는 본 발명의 다양한 실시 예들에 따른 전자 장치에서 화이트 밸런스 보정 결과의 예를 도시하는 도면이다.
도 15를 참조하면, 도 15의 예시(A)는 다양한 실시 예들에 따른 화이트 밸런스 보정 기능이 적용되지 않은 이미지의 예를 나타내고, 도 15의 예시(B)는 다양한 실시 예들에 따른 화이트 밸런스 보정 기능이 적용된 이미지의 예를 나타낼 수 있다.
도 15에 도시한 바와 같이, 예시(A)의 화이트 밸런스 보정 전 이미지에 비해, 예시(B)의 화이트 밸런스 보정 후 이미지가 실제 얼굴 색에 가깝도록 표현될 수 있다.
이상에서 살펴본 바와 같이, 다양한 실시 예들에 따른 전자 장치의 동작 방법은, 하나 이상의 객체들이 포함된 이미지를 획득하는 동작, 상기 이미지에서 상기 하나 이상의 객체들 중 얼굴에 대응하는 제1 영역을 판단하는 동작, 상기 하나 이상의 객체들 중 배경에 대응하는 제2 영역을 판단하는 동작, 상기 제1 영역의 색 정보와 상기 제2 영역의 색 정보 간의 비율을 확인하는 동작, 상기 비율이 설정된 제1 조건을 만족하는 경우, 제1 레벨로 상기 제1 영역에 대응하는 화이트 밸런스를 보정하는 동작, 상기 비율이 설정된 제2 조건을 만족하는 경우, 제2 레벨로 상기 제1 영역에 대응하는 화이트 밸런스를 보정하는 동작, 및 상기 제1 레벨 및 상기 제2 레벨 중 대응하는 하나의 레벨로 상기 제1 영역에 대응하는 화이트 밸런스가 보정된 상기 이미지를 디스플레이를 통해 표시하는 동작을 포함할 수 있다.
다양한 실시 예들에 따라, 상기 보정하는 동작은, 상기 이미지에서 역광 비율을 판단하는 동작, 상기 역광 비율을 더 이용하여, 상기 제1 영역에 대응하는 화이트 밸런스를 보정하는 동작을 포함할 수 있다.
다양한 실시 예들에 따라, 상기 역광 비율을 판단하는 동작은, 상기 이미지로부터 산출된 히스토그램 데이터에 기반하여 상기 역광 비율을 판단하는 동작을 포함할 수 있다.
다양한 실시 예들에 따라, 상기 보정하는 동작은, 상기 역광 비율에 따라 상기 제1 조건 및 상기 제2 조건을 변경하기 위한 감소 가중치(reduce weight)를 산출하는 동작, 상기 감소 가중치를 이용하여 제3 조건 및 제4 조건을 산출하는 동작을 포함하고, 상기 비율이 변경된 제3 조건을 만족하는 경우, 상기 제1 레벨로 상기 제1 영역에 대응하는 화이트 밸런스를 보정하는 동작, 및 상기 비율이 변경된 제4 조건을 만족하는 경우, 상기 제2 레벨로 상기 제1 영역에 대응하는 화이트 밸런스를 보정하는 동작을 포함할 수 있다.
다양한 실시 예들에 따라, 상기 보정하는 동작은, 상기 보정하는 동작의 일부로서, 상기 제1 영역의 자동 화이트 밸런스(AWB, auto white balance)를 산출하는 동작, 상기 자동 화이트 밸런스에 상기 제1 지정된 조건에 대응하는 제1 보정 값을 곱하여 상기 제1 레벨로 보정하거나, 또는 상기 제2 지정된 조건에 대응하는 제2 보정 값을 곱하여 상기 제2 레벨로 보정하는 동작을 포함할 수 있다.
본 명세서와 도면에 개시된 본 발명의 다양한 실시 예들은 본 발명의 기술 내용을 쉽게 설명하고 본 발명의 이해를 돕기 위해 특정 예를 제시한 것일 뿐이며, 본 발명의 범위를 한정하고자 하는 것은 아니다. 따라서 본 발명의 범위는 여기에 개시된 실시 예들 이외에도 본 발명의 기술적 사상을 바탕으로 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.

Claims (15)

  1. 전자 장치에 있어서,
    디스플레이; 및
    상기 디스플레이와 기능적으로 연결된 프로세서를 포함하고, 상기 프로세서는,
    하나 이상의 객체들이 포함된 이미지를 획득하고,
    상기 이미지에서 상기 하나 이상의 객체들 중 얼굴에 대응하는 제1 영역을 판단하고,
    상기 하나 이상의 객체들 중 배경에 대응하는 제2 영역을 판단하고,
    상기 제1 영역의 색 정보와 상기 제2 영역의 색 정보 간의 비율을 확인하고,
    상기 비율이 설정된 제1 조건을 만족하는 경우, 제1 레벨로 상기 제1 영역에 대응하는 화이트 밸런스를 보정하고,
    상기 비율이 설정된 제2 조건을 만족하는 경우, 제2 레벨로 상기 제1 영역에 대응하는 화이트 밸런스를 보정하고, 및
    상기 제1 레벨 및 상기 제2 레벨 중 대응하는 하나의 레벨로 상기 제1 영역에 대응하는 화이트 밸런스가 보정된 상기 이미지를 상기 디스플레이를 통해 표시하도록 설정된 전자 장치.
  2. 제1항에 있어서, 상기 프로세서는,
    상기 이미지에서 역광 비율을 판단하고,
    상기 역광 비율을 더 이용하여, 상기 제1 영역에 대응하는 화이트 밸런스를 보정하도록 설정된 전자 장치.
  3. 제2항에 있어서, 상기 프로세서는,
    상기 이미지로부터 산출된 히스토그램 데이터에 기반하여 상기 역광 비율을 판단하도록 설정된 전자 장치.
  4. 제1항에 있어서, 상기 프로세서는,
    상기 보정하는 동작의 일부로서, 상기 제1 영역의 자동 화이트 밸런스(AWB, auto white balance)를 산출하고, 및
    상기 자동 화이트 밸런스에 상기 제1 지정된 조건에 대응하는 제1 보정 값을 곱하여 상기 제1 레벨로 보정하거나, 또는 상기 제2 지정된 조건에 대응하는 제2 보정 값을 곱하여 상기 제2 레벨로 보정하도록 설정된 전자 장치.
  5. 전자 장치에 있어서,
    카메라 모듈;
    디스플레이; 및
    상기 카메라 모듈 및 상기 디스플레이와 기능적으로 연결된 프로세서를 포함하고, 상기 프로세서는,
    얼굴 객체가 포함된 이미지를 획득하고,
    상기 이미지에서 배경 영역과 얼굴 영역을 구분하고,
    상기 얼굴 영역에 대한 속성을 결정하고,
    상기 얼굴 영역의 속성에 기반하여 화이트 밸런스를 보정하기 위한 가중치를 산출하고,
    상기 가중치에 기반하여 상기 화이트 밸런스를 보정하고,
    보정된 화이트 밸런스에 기반하여 상기 이미지를 상기 디스플레이를 통해 표시하도록 설정된 전자 장치.
  6. 제5항에 있어서,
    상기 얼굴 영역의 속성은, 상기 이미지에서 상기 얼굴 영역의 객체에 대응하는 인종 또는 피부색과 관련된 지표를 포함하는 것을 특징으로 하는 전자 장치.
  7. 제5항에 있어서, 상기 프로세서는,
    상기 얼굴 영역의 색 정보 비율에 기반하여 상기 속성을 결정하도록 설정된 전자 장치.
  8. 제7항에 있어서, 상기 프로세서는,
    상기 얼굴 영역의 색 정보 비율이 설정된 제1 기준 값 이하인 경우, 상기 얼굴 영역의 객체를 제1 속성으로 결정하고,
    상기 얼굴 영역의 색 정보 비율이 설정된 제2 기준 값 이상인 경우, 상기 얼굴 영역의 객체를 제2 속성으로 결정하고,
    상기 제1 속성 또는 상기 제2 속성에 기반하여 상기 가중치를 결정하도록 설정된 전자 장치.
  9. 제8항에 있어서, 상기 프로세서는,
    상기 배경 영역에 연관된 제1 화이트 밸런스 게인과, 상기 얼굴 영역에 연관된 제2 화이트 밸런스 게인 및 상기 속성에 따른 가중치에 기반하여 제3 화이트 밸런스를 결정하고,
    상기 결정된 제3 화이트 밸런스에 기반하여 상기 이미지를 제공하도록 설정된 전자 장치.
  10. 제8항에 있어서, 상기 프로세서는,
    상기 색 정보 비율이 상기 제1 기준 값과 상기 제2 기준 값의 사이에 대응 하는 경우, 상기 얼굴 영역의 객체를 제3 속성으로 결정하도록 설정된 전자 장치.
  11. 제7항에 있어서, 상기 프로세서는,
    상기 배경 영역에 대응하는 색 정보에 더 기반하여 상기 색 정보 비율을 산출하도록 설정된 전자 장치.
  12. 제5항에 있어서, 상기 프로세서는,
    상기 이미지에서 역광 비율에 따라 속성 구분을 위한 밝기 정보의 기준 값을 변경하고, 변경된 기준 값에 기반하여 상기 속성을 결정하도록 설정된 전자 장치.
  13. 제12항에 있어서, 상기 프로세서는,
    상기 역광 비율에 따라 상기 기준 값을 변경하기 위한 감소 가중치(reduce weight)를 산출하고,
    상기 감소 가중치를 이용하여 다른 기준 값을 산출하고,
    상기 얼굴 영역의 색 정보 비율과 상기 다른 기준 값에 기반하여 상기 얼굴 영역의 속성을 결정하도록 설정된 전자 장치.
  14. 제5항에 있어서, 상기 프로세서는,
    상기 이미지가 복수의 얼굴 영역들을 포함하는 경우, 상기 복수의 얼굴 영역들의 색 정보 비율과 기준 값을 비교하고,
    상기 비교하는 결과에 기반하여, 상기 복수의 얼굴 영역들에 대응하는 제1 속성과 제2 속성을 결정하고,
    상기 복수의 얼굴 영역들 중 상기 결정된 제1 속성에 대응하는 얼굴 영역과 상기 결정된 제2 속성에 대응하는 얼굴 영역의 개수의 비를 판단하고,
    상기 제1 속성과 상기 제2 속성의 개수의 비에 기반하여 화이트 밸런스 보정을 위한 가중치를 산출하도록 설정된 전자 장치.
  15. 제14항에 있어서, 상기 프로세서는,
    상기 개수의 비가 높은 어느 하나의 속성에 기반하여 상기 가중치를 결정하거나, 또는 상기 개수의 비의 정도에 따라 상기 가중치를 차등 결정하도록 설정된 전자 장치.
PCT/KR2018/003333 2017-03-24 2018-03-22 전자 장치의 화이트 밸런스 기능 제어 방법 및 장치 WO2018174581A1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US16/497,224 US11025876B2 (en) 2017-03-24 2018-03-22 Method and device for controlling white balance function of electronic device

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020170037653A KR102359276B1 (ko) 2017-03-24 2017-03-24 전자 장치의 화이트 밸런스 기능 제어 방법 및 장치
KR10-2017-0037653 2017-03-24

Publications (1)

Publication Number Publication Date
WO2018174581A1 true WO2018174581A1 (ko) 2018-09-27

Family

ID=63584520

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2018/003333 WO2018174581A1 (ko) 2017-03-24 2018-03-22 전자 장치의 화이트 밸런스 기능 제어 방법 및 장치

Country Status (3)

Country Link
US (1) US11025876B2 (ko)
KR (1) KR102359276B1 (ko)
WO (1) WO2018174581A1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113761977A (zh) * 2020-06-04 2021-12-07 北京小米移动软件有限公司 光学指纹模组和信号处理方法

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107343189B (zh) * 2017-07-10 2019-06-21 Oppo广东移动通信有限公司 白平衡处理方法和装置
KR102694616B1 (ko) * 2020-02-06 2024-08-13 삼성전자 주식회사 깊이 정보에 기반한 이미지 보정 방법 및 장치
KR20210144151A (ko) * 2020-05-21 2021-11-30 삼성전자주식회사 Awb를 수행하여 이미지를 생성하는 전자 장치 및 방법
CN115119035B (zh) * 2021-03-23 2023-08-01 青岛海信商用显示股份有限公司 显示设备、图像处理方法及装置
US11706532B2 (en) 2021-08-18 2023-07-18 Samsung Electronics Co., Ltd. Method for providing image and electronic device supporting the same
EP4141803B1 (en) * 2021-08-23 2024-10-23 HELLA GmbH & Co. KGaA System for illuminating the face of an occupant in a car
EP4354855A4 (en) * 2021-09-07 2024-07-31 Huawei Tech Co Ltd IMAGE PROCESSING METHOD AND APPARATUS
WO2024005241A1 (ko) * 2022-07-01 2024-01-04 엘지전자 주식회사 디스플레이 장치 및 그의 동작 방법

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100751395B1 (ko) * 2004-12-29 2007-08-22 엘지전자 주식회사 모니터의 화이트 밸런스 조정장치 및 방법
JP2009071454A (ja) * 2007-09-11 2009-04-02 Canon Inc 画像処理装置及び方法、及び撮像装置
JP2011188186A (ja) * 2010-03-08 2011-09-22 Aof Imaging Technology Ltd ホワイトバランスゲイン算出装置
KR20130056442A (ko) * 2011-11-22 2013-05-30 삼성전자주식회사 화이트 밸런스 조절장치 및 방법
KR20160027030A (ko) * 2013-08-26 2016-03-09 인텔 코포레이션 이미지 프로세싱을 위한 피부 톤 보정을 이용한 자동 화이트 밸런싱

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6975759B2 (en) 2002-06-25 2005-12-13 Koninklijke Philips Electronics N.V. Method and system for white balancing images using facial color as a reference signal
JP4702635B2 (ja) * 2007-07-17 2011-06-15 富士フイルム株式会社 オートホワイトバランス補正値算出装置、方法およびプログラムならびに撮像装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100751395B1 (ko) * 2004-12-29 2007-08-22 엘지전자 주식회사 모니터의 화이트 밸런스 조정장치 및 방법
JP2009071454A (ja) * 2007-09-11 2009-04-02 Canon Inc 画像処理装置及び方法、及び撮像装置
JP2011188186A (ja) * 2010-03-08 2011-09-22 Aof Imaging Technology Ltd ホワイトバランスゲイン算出装置
KR20130056442A (ko) * 2011-11-22 2013-05-30 삼성전자주식회사 화이트 밸런스 조절장치 및 방법
KR20160027030A (ko) * 2013-08-26 2016-03-09 인텔 코포레이션 이미지 프로세싱을 위한 피부 톤 보정을 이용한 자동 화이트 밸런싱

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113761977A (zh) * 2020-06-04 2021-12-07 北京小米移动软件有限公司 光学指纹模组和信号处理方法

Also Published As

Publication number Publication date
KR102359276B1 (ko) 2022-02-07
US11025876B2 (en) 2021-06-01
KR20180108201A (ko) 2018-10-04
US20200053332A1 (en) 2020-02-13

Similar Documents

Publication Publication Date Title
WO2018174581A1 (ko) 전자 장치의 화이트 밸런스 기능 제어 방법 및 장치
WO2017116024A1 (en) Electronic device having flexible display and method for operating the electronic device
WO2018199542A1 (ko) 전자 장치 및 전자 장치의 영상 표시 방법
AU2015350680B2 (en) Power control method and apparatus for reducing power consumption
WO2018182292A1 (en) Electronic device and control method thereof
WO2018070716A1 (en) Electronic device having plurality of fingerprint sensing modes and method for controlling the same
WO2017142341A1 (en) Method for integrating and providing collected data from multiple devices and electronic device for implementing same
WO2017131449A1 (en) Electronic device and method for running function according to transformation of display of electronic device
WO2018021739A1 (en) Method for providing video content and electronic device for supporting the same
WO2017043936A1 (en) Method for measuring angles between displays and electronic device using the same
WO2017183916A1 (en) Display driving integrated circuit and electronic device having the same
WO2017074078A1 (en) Method for operating electronic device and electronic device for supporting the same
WO2018182279A1 (en) Method and apparatus for providing augmented reality function in electronic device
WO2018128253A1 (ko) 전자 장치 및 그의 표시 방법
WO2018004238A1 (en) Apparatus and method for processing image
WO2015126196A1 (en) Method and apparatus for displaying screen on electronic device
EP3423917A1 (en) Electronic device including display
WO2016114609A1 (en) Electronic device and method of processing information in electronic device
WO2018155893A1 (en) Interface providing method for multitasking and electronic device implementing the same
WO2017026709A1 (ko) 전자 기기의 해상도 조정 방법 및 장치
WO2017022971A1 (ko) 전자 장치에서 디스플레이 방법 및 장치
WO2018174648A1 (ko) 전자 장치 및 이를 이용한 카메라 촬영 환경 및 장면에 따른 영상 처리 방법
WO2017135634A1 (en) Electronic device for processing and providing data and operating method thereof
WO2018194313A1 (en) Motion detection method and electronic device supporting the same
EP3374914A1 (en) Electronic device and operating method thereof

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 18772016

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 18772016

Country of ref document: EP

Kind code of ref document: A1