WO2017135675A1 - 이미지 처리장치 및 방법 - Google Patents

이미지 처리장치 및 방법 Download PDF

Info

Publication number
WO2017135675A1
WO2017135675A1 PCT/KR2017/001079 KR2017001079W WO2017135675A1 WO 2017135675 A1 WO2017135675 A1 WO 2017135675A1 KR 2017001079 W KR2017001079 W KR 2017001079W WO 2017135675 A1 WO2017135675 A1 WO 2017135675A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
color
sensor
time
color image
Prior art date
Application number
PCT/KR2017/001079
Other languages
English (en)
French (fr)
Inventor
김성오
오승원
김재문
박현희
이용만
장슬기
전형주
최종범
김광태
김수형
염동현
이기혁
Original Assignee
삼성전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자 주식회사 filed Critical 삼성전자 주식회사
Priority to US16/073,682 priority Critical patent/US11195304B2/en
Publication of WO2017135675A1 publication Critical patent/WO2017135675A1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/90—Determination of colour characteristics
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70—Circuitry for compensating brightness variation in the scene
    • H04N23/741—Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/50—Depth or shape recovery
    • G06T7/55—Depth or shape recovery from multiple images
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/11—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths for generating image signals from visible and infrared light wavelengths
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/45—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from two or more image sensors being of different type or operating in different modes, e.g. with a CMOS sensor for moving images in combination with a charge-coupled device [CCD] for still images
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/63—Control of cameras or camera modules by using electronic viewfinders
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80—Camera processing pipelines; Components thereof
    • H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95—Computational photography systems, e.g. light-field imaging systems
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95—Computational photography systems, e.g. light-field imaging systems
    • H04N23/951—Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/222—Studio circuitry; Studio devices; Studio equipment
    • H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/265—Mixing

Definitions

  • Various embodiments of the present disclosure relate to an image processing apparatus and a method for converting an image obtained by a plurality of image sensors.
  • the video communication service is based on a broadband network that provides high-speed information transmission as well as a terminal capable of fast information processing.
  • the terminal supporting the video communication service consumes a lot of power due to image processing.
  • the resolution of the image to be processed may be a major factor in determining the power consumption of the terminal during display.
  • power consumption during display may increase in proportion to the resolution of an image to be processed.
  • Increasing the image resolution increases the bandwidth on the link to convey information about the image to be processed. For example, a bandwidth for an application processor (AP) to transmit a frame to a display device in one device increases in proportion to the display resolution. As another example, when one device transmits multimedia data to another device on a wireless network, bandwidth to be used in the wireless network may increase in proportion to the size of the multimedia data to be delivered.
  • AP application processor
  • HDR high dynamic range
  • the HDR technology is a technique of combining at least two pictures into one picture after continuously taking pictures of different brightness.
  • An electronic device may use a large amount of resources to process high quality or large images. For example, in order to perform a large amount of data operations related to the conversion or correction of a high quality image, the electronic device may use a relatively large amount of memory or processing resources. In addition, the electronic device may use a relatively large amount of networking resources so as to increase a data transmission amount or a transmission speed in order to transmit a large amount of images to another electronic device.
  • the electronic device may convert the image into a specific image format in order to process a high quality image and transmit a large amount of image.
  • the electronic device may include a red component, a green component, and a blue component of an image based on a red-green-blue (RGB) color model, and include a luminance component, a blue difference chroma component, And a YCbCr image format including a red difference chroma component to process an image.
  • the electronic device may adjust (eg, increase) the brightness of the image by adjusting (eg, increasing) the brightness component included in the YCbCr image format of the image.
  • Image quality in the electronic device may be proportional to the performance of the lens, the image sensor, and the like provided. However, in order to obtain a high quality image, providing a high-performance lens, an image sensor, or the like in the electronic device may act as a cause of increasing the cost of producing the electronic device.
  • an image processing apparatus and a method for converting a frame rate using two sensors having different characteristics may be provided.
  • an image processing apparatus and method for generating a new image by synthesizing images of different characteristics obtained by using two sensors having different characteristics may be provided.
  • an image processing apparatus and method for generating a new image based on a plurality of images acquired through at least two sensors having different conditions for photographing may be provided.
  • the frame rate is converted based on the black and white image frames acquired through the black and white sensor, and the image with the frame rate converted black and white image frame using the color image frame obtained through the color sensor.
  • An image processing apparatus and method for performing registration can be provided.
  • An electronic device includes a memory, a first monochrome image sensor, a second image sensor, and a processor,
  • the processor acquires a first monochrome image corresponding to a first time for a subject and a second monochrome image corresponding to a second time for the subject by using the first BW image sensor, and the second Obtaining a color image of the subject by using an image sensor, generating a first color image obtained by synthesizing a first color determined based on at least a part of color information of the color image in the first black and white image, Generating a second color image in which the second color determined based on at least part of the color information is synthesized in the second black and white image, and storing the first color image and the second color image as video data in the memory; It can be set to.
  • an operation method of an electronic device including a first black and white (BW) image sensor and a second image sensor may correspond to a first time with respect to a subject using the first BW image sensor.
  • Generating a second color image in which two colors are synthesized and video data of the first color image and the second color image in the memory It may include the operation of storing.
  • a computer-readable recording medium of an electronic device including a first black and white (BW) image sensor and a second image sensor may use a first time for a subject using the first BW image sensor. Acquiring a first monochrome image corresponding to, and a second monochrome image corresponding to a second time with respect to the subject; and using the second image sensor, belonging between the first time and the second time.
  • BW black and white
  • an apparatus and method for processing an image may solve a problem of light reception amount and calculation amount that inhibit the acquisition of an image having a high frame rate.
  • FIG. 1 is a diagram illustrating a network environment including a wireless terminal according to various embodiments of the present disclosure.
  • FIG. 2 is a block diagram illustrating a wireless terminal according to various embodiments of the present disclosure.
  • FIG. 3 is a block diagram illustrating a program module according to various embodiments of the present disclosure.
  • FIG. 4 is a diagram illustrating an example of a configuration of an image processing apparatus according to various embodiments of the present disclosure.
  • FIG. 5 is a diagram illustrating another example of a configuration of an image processing apparatus according to various embodiments of the present disclosure.
  • FIG. 6 is a block diagram illustrating a block configuration for image processing according to various embodiments of the present disclosure.
  • FIG. 7 is a diagram illustrating a control flow for an image processing procedure according to various proposed embodiments.
  • FIG. 8 is a diagram illustrating a photographing example using two image sensors in an electronic device according to various embodiments of the present disclosure.
  • FIG. 9 is a diagram illustrating an image synthesis example in an electronic device according to various embodiments of the present disclosure.
  • FIG. 10 is a diagram illustrating an image compositing procedure in an electronic device according to various embodiments of the present disclosure.
  • FIG. 11 is a diagram illustrating an example of an image processing result according to various embodiments of the present disclosure.
  • FIG. 12 is a flowchart illustrating a control flow for image processing in an electronic device according to various embodiments of the present disclosure.
  • expressions such as “have”, “may have”, “include”, or “may include” include the presence of a corresponding feature (e.g., numerical, functional, operational, or component such as component). Does not exclude the presence of additional features.
  • expressions such as “A or B”, “at least one of A or / and B”, or “one or more of A or / and B” may include all possible combinations of items listed together.
  • “A or B”, “at least one of A and B”, or “at least one of A or B” includes (1) at least one A, (2) at least one B, Or (3) both of cases including at least one A and at least one B.
  • first,” “second,” “first,” or “second,” etc. may modify various components in any order and / or importance. Is used only to distinguish other components from other components.
  • the first user device and the second user device may represent different user devices regardless of the order or importance.
  • the first component may be called a second component, and similarly, the second component may be renamed to the first component.
  • One component is "(operatively or communicatively) coupled with / to" to another component (eg the second component) or " When referred to as “connected to”, it is to be understood that any component may be directly connected to the other component or may be connected via another component (eg, a third component).
  • a component e.g., a first component
  • another component e.g., a second component
  • the expression “configured to” used in this document is, for example, “suitable for”, “having the capacity to” depending on the situation. It can be used interchangeably with “designed to”, “adapted to”, “made to”, or “capable of”.
  • the term “configured to” may not necessarily mean only “specifically designed to” in hardware. Instead, in some situations, the expression “device configured to” may mean that the device “can” along with other devices or components.
  • the phrase “processor configured (or configured to) perform A, B, and C” may be achieved by executing a dedicated processor (eg, an embedded processor) or one or more software programs stored in a memory device to perform the operation. It may mean a general-purpose processor (eg, a CPU or an application processor) capable of performing the corresponding operations.
  • An electronic device may include, for example, a smartphone, a tablet personal computer, a mobile phone, a video phone, an e-book reader, Desktop personal computer (PC), laptop personal computer (PC), netbook computer, workstation, server, personal digital assistant (PDA), portable multimedia player (PMP), MP3 player, mobile medical It may include at least one of a device, a camera, or a wearable device.
  • a wearable device may be an accessory type (e.g., a watch, ring, bracelet, anklet, necklace, glasses, contact lens, or head-mounted-device (HMD)), a fabric, or an integral piece of clothing (for example, it may include at least one of an electronic garment, a body-attached (eg, skin pad or tattoo), or a living implantable (eg, an implantable circuit).
  • HMD head-mounted-device
  • the electronic device may be a home appliance.
  • Home appliances are, for example, televisions, digital video disk (DVD) players, audio, refrigerators, air conditioners, cleaners, ovens, microwaves, washing machines, air purifiers, set-top boxes, home automation controls Panel (home automation control panel), security control panel, TV box (e.g. Samsung HomeSyncTM, Apple TVTM, or Google TVTM), game console (e.g. XboxTM, PlayStationTM), electronic dictionary, electronic key, camcorder It may include at least one of a (camcorder), or an electronic picture frame.
  • DVD digital video disk
  • the electronic device may include a variety of medical devices (eg, various portable medical devices (such as blood glucose meters, heart rate monitors, blood pressure monitors, or body temperature meters), magnetic resonance angiography (MRA), magnetic resonance imaging (MRI), Such as CT (computed tomography, imaging or ultrasound), navigation devices, GPS positioning (global positioning system receiver), event data recorder (EDR), flight data recorder (FDR), automotive infotainment devices, ships Electronic equipment (e.g. marine navigation devices, gyro compasses, etc.), avionics, security devices, vehicle head units, industrial or household robots, automatic teller's machines (financial institutions), shop POS (point of sales), or Internet of things (e.g. light bulbs, sensors, electrical or gas meters, sprinkler devices, smoke alarms, thermostats, street lights, Of the requester (toaster), exercise equipment, hot water tank, a heater, boiler, etc.) may include at least one.
  • medical devices e.g, various portable medical devices (such as blood glucose meters
  • an electronic device may be a piece of furniture or a building / structure, an electronic board, an electronic signature receiving device, a projector, or various measuring devices (eg, Water, electricity, gas, or radio wave measuring instrument).
  • the electronic device may be one or a combination of the aforementioned various devices.
  • An electronic device according to an embodiment may be a flexible electronic device.
  • the electronic device according to an embodiment of the present disclosure is not limited to the above-described devices, and may include a new electronic device according to technology development.
  • Various embodiments proposed in the present disclosure will be described as three methods for obtaining a color image having a high frame rate. That is, by diffusing (color diffusing) color into a high frame rate (high quality) monochrome image using color information obtained from a color image having a relatively low frame rate (low quality), a high frame rate is obtained. Allows you to create color images at high rate (high quality).
  • the first is to take advantage of the high light reception of the BW image sensor.
  • the method obtains a plurality of black and white images through a combination of a black and white image sensor and a color image sensor, and synthesizes the obtained plurality of black and white images with a color image, thereby obtaining a color image having a high frame rate (high resolution color image, Slow video of colors).
  • the resolution of the monochrome image sensor and the color image sensor may be unlimited.
  • a frame rate conversion (FRC) operation is used.
  • the solution searches for motion vectors with (relatively) low resolution color images, and based on these values local dense matching and FRC operation can be performed.
  • the resolution of the color image sensor may be lower than the resolution of the black and white image sensor.
  • the motion vector search may be performed after down-sampling the color image obtained from the color image sensor to a lower resolution regardless of the resolution.
  • the third method is to use an edged block scaling (EBS) video format.
  • EBS image format is an image format consisting of down-sampled color information (S), edge information (E), and image-related additional information (B)
  • the FBS using the color information (S) and the edge information (E) is used. To perform the operation.
  • the term user may refer to a person who uses an electronic device or a device (eg, an artificial intelligence electronic device) that uses an electronic device.
  • the electronic device 101 may include a bus 110, a processor 120, a memory 130, an input / output interface 150, a display 160, a communication interface 170, and an image processing module 140. . According to an embodiment of the present disclosure, the electronic device 101 may omit at least one of the components or may further include other components.
  • the bus 110 may include, for example, circuitry that couples the components 120-170 to each other and communicates communications (eg, control messages and / or data) between the components 120-170. Can be.
  • the processor 120 may include one or more of a central processing unit (CPU), an application processor (AP), or a communication processor (CP).
  • the processor 120 may execute, for example, an operation or data processing related to control and / or communication of at least one other component of the electronic device 101.
  • the memory 130 may include volatile and / or nonvolatile memory.
  • the memory 130 may store, for example, commands or data related to at least one other element of the electronic device 101.
  • the memory 130 may store software and / or a program 180.
  • the program 180 may be, for example, a kernel 181, middleware 183, an application programming interface (API) 185, and / or an application program (or “application”) 187, or the like. It may include. At least a portion of kernel 181, middleware 183, or API 185 may be referred to as an operating system (OS).
  • OS operating system
  • the kernel 181 may be, for example, system resources used to execute an action or function implemented in other programs (eg, middleware 183, API 185, or application program 187) (eg, The bus 110, the processor 120, or the memory 130 may be controlled or managed.
  • the kernel 181 may provide an interface for controlling or managing system resources by accessing individual components of the electronic device 101 from the middleware 183, the API 185, or the application program 187. Can be.
  • the middleware 183 may serve as an intermediary for allowing the API 185 or the application program 187 to communicate with the kernel 181 to exchange data.
  • the middleware 183 may process one or more work requests received from the application program 187 according to priorities.
  • the middleware 183 may use system resources (eg, the bus 110, the processor 120, or the memory 130, etc.) of the electronic device 101 in at least one of the application programs 187. Priority can be given.
  • the middleware 183 may process one or more work requests according to priorities given to at least one application program, thereby performing scheduling or load balancing on the one or more work requests.
  • the API 185 is, for example, an interface for the application program 187 to control a function provided by the kernel 181 or the middleware 183, for example, file control, window control, image processing, or It may include at least one interface or function (eg, a command) for character control.
  • the input / output interface 150 may serve as, for example, an interface capable of transferring a command or data input from a user or another external device to other component (s) of the electronic device 101.
  • the input / output interface 150 may output commands or data received from other component (s) of the electronic device 101 to a user or another external device.
  • the input / output interface 150 may include a plurality of image sensors having different characteristics.
  • the input / output interface 150 may transfer images photographed by a plurality of image sensors to the image processing module 140, the memory 130, the display 160, the communication interface 170, and the like through the bus 110. .
  • the captured images may have different image characteristics. This may be due to differences in characteristics of the image sensor and conditions set for photographing.
  • Display 160 may be, for example, a liquid crystal display (LCD), a light-emitting diode (LED) display, an organic light-emitting diode (OLED) display, or Microelectromechanical systems (MEMS) displays, or electronic paper displays.
  • the display 160 may display, for example, various types of content (eg, text, images, videos, icons, symbols, etc.).
  • the display 160 may include a touch screen and may receive, for example, a touch, gesture, proximity, or hovering input using an electronic pen or a part of a user's body.
  • the communication interface 170 may establish communication between, for example, the electronic device 101 and an external device (eg, the first external electronic device 102, the second external electronic device 104, or the server 106). Can be.
  • the communication interface 170 may be connected to the network 162 through wireless or wired communication to communicate with an external device (eg, the second external electronic device 104 or the server 106).
  • Wireless communication is, for example, a cellular communication protocol, for example, long-term evolution (LTE), LTE Advance (LTE-A), code division multiple access (CDMA), wideband CDMA (WCDMA), UMTS (universal).
  • LTE long-term evolution
  • LTE-A LTE Advance
  • CDMA code division multiple access
  • WCDMA wideband CDMA
  • UMTS Universal Mobile Telecommunications
  • WBro mobile telecommunications system
  • WiBro wireless broadband
  • GSM global system for mobile communications
  • wireless communication may include, for example, near field communication 164.
  • the short range communication 164 may include, for example, at least one of wireless fidelity (WiFi), Bluetooth, near field communication (NFC), magnetic stripe transmission (MST), or Zigbe.
  • Wireless communication may use, for example, a global positioning system (GPS) or a global navigation satellite system (GNSS).
  • GPS global positioning system
  • GNSS global navigation satellite system
  • Wired communication may include, for example, at least one of a universal serial bus (USB), a high definition multimedia interface (HDMI), a reduced standard-232 (RS-232), a plain old telephone service (POTS), and the like.
  • the network 162 may include a telecommunications network, for example, at least one of a computer network (for example, a LAN or a WAN), the Internet, and a telephone network.
  • the image processing module 140 may, for example, generate additional information (eg, based on a portion of edge information (eg, high frequency component information) related to the input image or a portion of scale information (eg, a downscaled image). Acquire binarization data of edge information or scale information, high frequency component information, color information, brightness information, pattern information, motion information, or black level value) and correspond to at least a part of the input image based on the obtained additional information. To generate an output image. The image processing module 140 may up-scale the down-scaled input image included in the scale information, and generate an output image using the up-scaled input image and the edge information.
  • edge information eg, high frequency component information
  • scale information e.g, a downscaled image
  • the image processing module 140 may generate a new image based on a plurality of images provided from a plurality of image sensors having different characteristics provided in the input / output interface 150. That is, the image processing module 140 extracts information about the characteristic from the image reflecting the characteristics of the plurality of image sensors, and processes the image having another characteristic by using the extracted information, thereby generating an image having the new characteristic. Can be generated.
  • the image processing module 140 is illustrated as an independent configuration from the processor 120 and the memory 130, but various embodiments are not limited thereto.
  • the image processing module 140 may be implemented with, for example, an integrated with the processor 120, and may be implemented in a form that may be stored in software in the memory 130 and executed in the processor 120. Can be.
  • the image processing module 140 may be implemented by being distributed to, for example, the processor 120 and the memory 130.
  • Each of the first and second external electronic devices 102 and 104 may be a device of the same or different type as the electronic device 101.
  • the server 106 may include a group of one or more servers.
  • all or part of operations executed in the electronic device 101 may be executed in another or a plurality of electronic devices (for example, the electronic devices 102 and 104 or the server 106).
  • the electronic device 101 when the electronic device 101 needs to perform a function or service automatically or by request, the electronic device 101 may, instead of executing the function or service itself, At least some associated functions may be requested to another device (eg, the electronic device 102 or 104 or the server 106).
  • the other electronic device may execute the requested function or the additional function and transmit the result to the electronic device 101.
  • the electronic device 101 may process the received result as it is or additionally to provide the requested function or service.
  • cloud computing, distributed computing, or client-server computing technology may be used.
  • FIG. 2 is a block diagram of an electronic device 201 according to various embodiments of the present disclosure.
  • the electronic device 201 may include, for example, all or part of the electronic device 101 illustrated in FIG. 1.
  • the electronic device 201 may include one or more processors (eg, an application processor (AP) 210), a communication module 220, a subscriber identification module 224, a memory 230, a sensor module 240, and an input device 250. ), Display 260, interface 270, audio module 280, camera module 291, power management module 295, battery 296, indicator 297, and motor 298. have.
  • the processor 210 may control, for example, a plurality of hardware or software components connected to the processor 210 by running an operating system or an application program, and may perform various data processing and operations.
  • the processor 210 may be implemented with, for example, a system on chip (SoC).
  • SoC system on chip
  • the processor 210 may further include a graphic processing unit (GPU) and / or an image signal processor.
  • the processor 210 may include at least some of the components illustrated in FIG. 2 (eg, the cellular module 221).
  • the processor 210 may load and process instructions or data received from at least one of other components (eg, nonvolatile memory) into the volatile memory, and store various data in the nonvolatile memory.
  • the communication module 220 may have a configuration that is the same as or similar to that of the communication interface 170 of FIG. 1.
  • the communication module 220 may be, for example, a cellular module 221, a WiFi module 223, a Bluetooth module 225, a GPS module 227, an NFC module 228, and an RF (radio frequency) module 229. It may include.
  • the cellular module 221 may provide, for example, a voice call, a video call, a text service, or an internet service through a communication network. According to an embodiment of the present disclosure, the cellular module 221 may perform identification and authentication of the electronic device 201 in a communication network by using a subscriber identification module (eg, a SIM card) 224. According to an embodiment of the present disclosure, the cellular module 221 may perform at least some of the functions that the processor 210 may provide. According to an embodiment of the present disclosure, the cellular module 221 may include a CP.
  • Each of the WiFi module 223, the Bluetooth module 225, the GPS module 227, or the NFC module 228 may include, for example, a processor for processing data transmitted / received through a corresponding module.
  • at least some (eg, two or more) of the cellular module 221, the WiFi module 223, the Bluetooth module 225, the GPS module 227, or the NFC module 228 may be one integrated chip. (IC) or in an IC package.
  • the RF module 229 may transmit / receive, for example, a communication signal (eg, an RF signal).
  • the RF module 229 may include, for example, a transceiver, a power amp module (PAM), a frequency filter, a low noise amplifier (LNA), an antenna, or the like.
  • PAM power amp module
  • LNA low noise amplifier
  • at least one of the cellular module 221, the WiFi module 223, the Bluetooth module 225, the GPS module 227, or the NFC module 228 may transmit and receive an RF signal through a separate RF module. Can be.
  • Subscriber identification module 224 may include, for example, a card comprising a subscriber identification module and / or an embedded SIM, and may include unique identification information (eg, an integrated circuit card identifier (ICCID)) or It may include subscriber information (eg, international mobile subscriber identity (IMSI)).
  • ICCID integrated circuit card identifier
  • IMSI international mobile subscriber identity
  • the memory 230 may include, for example, an internal memory 232 or an external memory 234.
  • the internal memory 232 may be, for example, volatile memory (eg, dynamic RAM (DRAM), static RAM (SRAM), or synchronous dynamic RAM (SDRAM), etc.), non-volatile memory (eg, non-volatile memory).
  • volatile memory eg, dynamic RAM (DRAM), static RAM (SRAM), or synchronous dynamic RAM (SDRAM), etc.
  • non-volatile memory eg, non-volatile memory.
  • SSD solid state drive
  • the external memory 234 may be a flash drive, for example, compact flash (CF), secure digital (SD), micro secure digital (Micro-SD), mini secure digital (Mini-SD), or xD (extreme). It may further include a digital, a multi-media card (MMC) or a memory stick (memory stick).
  • the external memory 234 may be functionally and / or physically connected to the electronic device 201 through various interfaces.
  • the sensor module 240 may measure, for example, a physical quantity or detect an operation state of the electronic device 201 and convert the measured or detected information into an electrical signal.
  • the sensor module 240 includes, for example, a gesture sensor 240A, a gyro sensor 240B, an air pressure sensor 240C, a magnetic sensor 240D, an acceleration sensor 240E, a grip sensor 240F, and a proximity sensor ( 240G), color sensor 240H (e.g. RGB (red, green, blue) sensor), biometric sensor 240I, temperature / humidity sensor 240J, illuminance sensor 240K, or UV (ultra violet) sensor ( 240M).
  • the sensor module 240 may include, for example, an olfactory sensor, an electromyography sensor, an electroencephalogram sensor, an electrocardiogram sensor. And IR (infrared) sensors, iris sensors and / or fingerprint sensors.
  • the sensor module 240 may further include a control circuit for controlling at least one or more sensors belonging therein.
  • the electronic device 201 further includes a processor configured to control the sensor module 240, part or separately of the processor 210, so that the sensor 210 is in a sleep state while the sensor 210 is in a sleep state. Module 240 can be controlled.
  • the input device 250 may include, for example, a touch panel 252, a (digital) pen sensor 254, a key 256, or an ultrasonic input device 258. It may include.
  • the touch panel 252 may use at least one of capacitive, resistive, infrared, or ultrasonic methods, for example.
  • the touch panel 252 may further include a control circuit.
  • the touch panel 252 may further include a tactile layer to provide a tactile response to the user.
  • the (digital) pen sensor 254 may be, for example, part of a touch panel or may include a separate sheet for recognition.
  • the key 256 may include, for example, a physical button, an optical key, or a keypad.
  • the ultrasonic input device 258 may detect the ultrasonic waves generated by the input tool through the microphone 288 and check the data corresponding to the detected ultrasonic waves.
  • Display 260 may include panel 262, hologram device 264, or projector 266.
  • the panel 262 may include a configuration that is the same as or similar to that of the display 160 of FIG. 1.
  • the panel 262 may be implemented to be, for example, flexible, transparent, or wearable.
  • the panel 262 may be configured as a single module with the touch panel 252.
  • the panel 262 may include at least one sensor.
  • panel 262 may include a pressure sensor (or an interchangeably used subsequently).
  • the pressure sensor may be a sensor capable of measuring the strength of pressure with respect to a user's touch.
  • the pressure sensor may be integrated with the touch panel 252 or may be implemented with one or more sensors separately from the touch panel 252.
  • the hologram 264 may show a stereoscopic image in the air by using interference of light.
  • the projector 266 may display an image by projecting light onto a screen.
  • the screen may be located inside or outside the electronic device 201.
  • the display 260 may further include a control circuit for controlling the panel 262, the hologram device 264, or the projector 266.
  • the interface 270 may be, for example, a high-definition multimedia interface (HDMI) 272, a universal serial bus (USB) 274, an optical interface 276, or a D-subminiature ) 278.
  • the interface 270 may be included in, for example, the communication interface 170 illustrated in FIG. 1.
  • interface 270 may be, for example, a mobile high-definition link (MHL) interface, a secure digital (SD) card / multi-media card (MMC) interface, or an infrared data association (IrDA) compliant interface. It may include.
  • MHL mobile high-definition link
  • SD secure digital
  • MMC multi-media card
  • IrDA infrared data association
  • the audio module 280 may bidirectionally convert, for example, a sound and an electrical signal. At least some components of the audio module 280 may be included in, for example, the input / output interface 150 illustrated in FIG. 1.
  • the audio module 280 may process sound information input or output through, for example, a speaker 282, a receiver 284, an earphone 286, a microphone 288, or the like.
  • the camera module 291 is, for example, a device capable of capturing still images and moving images.
  • the camera module 291 may include one or more image sensors (eg, a front sensor or a rear sensor), a lens, and an image signal processor (ISP). Or flash (eg, LED or xenon lamp, etc.). That is, the camera module 291 may include a plurality of image sensors having different characteristics. The different characteristics are requirements for determining the characteristics of the photographed image and may be characteristics related to the type (monochrome, color, etc.), resolution, angle of view, and the like of the image.
  • the camera module 291 may be configured by a combination of image sensors supporting different resolutions. That is, a combination of the image sensors included in the camera module 291 is composed of an image sensor having a high resolution (high resolution) and an image sensor having a low resolution (low resolution), or an image sensor and a color image for obtaining a black and white image. It may be configured as an image sensor to obtain or may be composed of an image sensor having a wide angle of view and an image sensor having a narrow angle of view.
  • a combination of image sensors may be configured in consideration of a number of characteristics. That is, it can be configured by a combination of a black and white (BW) image sensor capable of obtaining a black and white image having a relatively high resolution and a color image sensor capable of obtaining a color image having a relatively low resolution.
  • BW black and white
  • the camera module 291 may set different conditions for photographing for each of a plurality of image sensors.
  • conditions for photographing may be an exposure value, a shutter speed, an aperture value, a white balance, a sensitivity, and the like.
  • the plurality of image sensors may generate an image of another result according to the set photographing condition.
  • the power management module 295 may manage power of the electronic device 201, for example.
  • the power management module 295 may include a power management integrated circuit (PMIC), a charger integrated circuit (ICC), a battery 296 or a battery or fuel gauge.
  • the PMIC may have a wired and / or wireless charging scheme.
  • the wireless charging method may include, for example, a magnetic resonance method, a magnetic induction method, an electromagnetic wave method, or the like, and may further include additional circuits for wireless charging, such as a coil loop, a resonance circuit, a rectifier, and the like. have.
  • the battery gauge may measure, for example, the remaining amount of the battery 296, the voltage, the current, or the temperature during charging.
  • the battery 296 may include, for example, a rechargeable battery and / or a solar battery.
  • the indicator 297 may display a specific state of the electronic device 201 or a part thereof (for example, the processor 210), for example, a booting state, a message state, or a charging state.
  • the motor 298 may convert an electrical signal into mechanical vibration, and may generate a vibration or haptic effect.
  • the electronic device 201 may include a processing device (eg, a GPU) for supporting mobile TV.
  • the processing apparatus for supporting mobile TV may process media data according to a standard such as digital multimedia broadcasting (DMB), digital video broadcasting (DVB), or mediaFlo (TM).
  • DMB digital multimedia broadcasting
  • DVD digital video broadcasting
  • TM mediaFlo
  • each of the components described in this document may be composed of one or more components, and the name of the corresponding component may vary depending on the type of electronic device.
  • the electronic device may be configured to include at least one of the components described in this document, and some components may be omitted or further include other additional components.
  • some of the components of the electronic device according to various embodiments of the present disclosure may be combined to form one entity, and thus may perform the same functions of the corresponding components before being combined.
  • FIG. 3 is a block diagram of a program module according to various embodiments of the present disclosure.
  • the program module 310 may be configured to include an operating system (OS) that controls resources related to the electronic device and / or various applications (eg, running on the operating system).
  • OS operating system
  • applications eg, running on the operating system
  • the operating system may be, for example, android, ios, windows, symbian, tizen, bada, or the like.
  • the program module 310 may include a kernel 320, middleware 330, an application programming interface (API) 360, and / or an application 370. At least a part of the program module 310 may be preloaded on the electronic device or may be downloaded from an external electronic device (eg, the electronic devices 102 and 104, the server 106, etc.).
  • API application programming interface
  • each of the kernel 320, the middleware 330, the API 360, and the application 370 included in the program module 310 may include the kernel 181 and the middleware (included in the program 180 of FIG. 1). 183, API 185, and application 187.
  • the kernel 320 may include, for example, a system resource manager 321 and / or a device driver 323.
  • the system resource manager 321 may perform control, allocation, or retrieval of system resources.
  • the system resource manager 321 may include a process manager, a memory manager, or a file system manager.
  • the device driver 323 may include, for example, a display driver, a camera driver, a Bluetooth driver, a shared memory driver, a USB driver, a keypad driver, a WiFi driver, an audio driver, an inter-process communication (IPC) driver, or the like. have.
  • the middleware 330 may provide various functions through the API 360, for example, to provide functions commonly required by the application 370, or to allow the application 370 to efficiently use limited system resources inside the electronic device. Functions can be provided to the application 370.
  • the middleware 330 may include a runtime library 335, an application manager 341, a window manager 342, a multimedia manager 343, and a resource manager ( resource manager 344, power manager 345, database manager 346, package manager 347, connectivity manager 348, notification manager ( It may include at least one of a notification manager (349), a location manager (350), a graphic manager (351), or a security manager (352).
  • the runtime library 335 may include, for example, a library module that the compiler uses to add new functionality through the programming language while the application 370 is running.
  • the runtime library 335 may perform input / output management, memory management, or a function for an arithmetic function.
  • the application manager 341 may manage, for example, the life cycle of at least one of the applications 370.
  • the window manager 342 may manage GUI resources used on the screen.
  • the multimedia manager 343 may grasp formats required for playing various media files and may encode or decode media files using a codec suitable for the format.
  • the resource manager 344 may manage resources such as source code, memory, or storage space of at least one of the applications 370.
  • the power manager 345 may operate in conjunction with a basic input / output system (BIOS) to manage a battery or power, and provide power information necessary for the operation of the electronic device.
  • BIOS basic input / output system
  • the database manager 346 may create, retrieve, or change a database to be used by at least one of the applications 370.
  • the package manager 347 may manage installation or update of an application distributed in the form of a package file.
  • the connection manager 348 may manage, for example, a wireless connection such as WiFi or Bluetooth. Notification manager 349 may display or notify events such as arrival messages, appointments, proximity notifications, and the like in a manner that does not disturb the user.
  • the location manager 350 may manage location information of the electronic device.
  • the graphic manager 351 may manage graphic effects to be provided to the user or a user interface related thereto.
  • the security manager 352 may provide various security functions required for system security or user authentication. According to an embodiment of the present disclosure, when the electronic device includes a telephone function, the middleware 330 may further include a telephone manager for managing a voice or video call function of the electronic device.
  • the middleware 330 may include a middleware module that forms a combination of various functions of the above-described components.
  • the middleware 330 may provide a module specialized for each type of OS in order to provide a differentiated function.
  • the middleware 330 may dynamically delete some of the existing components or add new components.
  • API 360 is, for example, a set of API programming functions, which may be provided in different configurations depending on the operating system. For example, in the case of Android or iOS, one API set may be provided for each platform, and in Tizen, two or more API sets may be provided for each platform.
  • the application 370 is, for example, a home 371, a dialer 372, an SMS / MMS 373, an instant message (IM) 374, a browser 375, a camera 376, an alarm 377.
  • One or more applications capable of performing functions such as contacts 378, voice dials 379, email 380, calendars 381, media player 382, albums 383, or clocks 384. It may include.
  • the application 370 may be an application that may perform functions such as health care (for example, measuring exercise amount or blood sugar) or providing environmental information (for example, providing barometric pressure, humidity, or temperature information). It may also include.
  • the application 370 may be an application that supports information exchange between an electronic device (eg, the electronic device 101) and an external electronic device (hereinafter, for convenience of description, referred to as an “information exchange application”). It may include.
  • the information exchange application may include, for example, a notification relay application for delivering specific information to an external electronic device, or a device management application for managing the external electronic device.
  • the notification delivery application may include a function of delivering notification information generated by another application of the electronic device (eg, SMS / MMS application, email application, healthcare application, or environmental information application) to an external electronic device.
  • another application of the electronic device eg, SMS / MMS application, email application, healthcare application, or environmental information application
  • the notification delivery application may receive notification information from an external electronic device and provide the notification information to a user, for example.
  • the device management application may be, for example, at least one function of an external electronic device in communication with the electronic device (eg, turn-on / turn-off of the external electronic device itself (or some component part) or brightness of the display (or , Resolution), an application running on the external electronic device, or a service (eg, a call service or a message service) provided by the external electronic device may be managed (eg, installed, deleted, or updated).
  • an external electronic device in communication with the electronic device
  • a service eg, a call service or a message service
  • the application 370 may include an application (eg, a health care application of a mobile medical device, etc.) designated according to an attribute of the external electronic device.
  • the application 370 may include an application received from an external electronic device.
  • the application 370 may include a preloaded application or a third party application downloadable from a server.
  • the names of the components of the program module 310 according to the shown embodiment may vary depending on the type of operating system.
  • At least a part of the program module 310 may be implemented in software, firmware, hardware, or a combination of two or more thereof. At least a portion of the program module 310 may be implemented (eg, executed) by, for example, a processor (eg, the processor 210). At least a part of the program module 310 may include, for example, a module, a program, a routine, sets of instructions, or a process for performing one or more functions.
  • module may mean, for example, a unit including one or a combination of two or more of hardware, software, or firmware.
  • Module may be used interchangeably with terms such as, for example, unit, logic, logic block, component, or circuit.
  • the module may be a minimum unit or part of an integrally constructed part.
  • the module may be a minimum unit or part of performing one or more functions.
  • the “module” can be implemented mechanically or electronically.
  • a “module” may be one of application-specific integrated circuit (ASIC) chips, field-programmable gate arrays (FPGAs), or programmable-logic devices that perform certain operations, known or developed in the future. It may include at least one.
  • ASIC application-specific integrated circuit
  • FPGAs field-programmable gate arrays
  • At least a portion of an apparatus (eg, modules or functions thereof) or method (eg, operations) may be, for example, computer-readable storage media in the form of a program module. It can be implemented as a command stored in. When the command is executed by a processor (eg, the processor 120), the one or more processors may perform a function corresponding to the command.
  • the computer-readable storage medium may be the memory 130, for example.
  • Computer-readable recording media include hard disks, floppy disks, magnetic media (e.g. magnetic tape), optical media (e.g. compact disc read only memory), DVD ( digital versatile discs, magneto-optical media (e.g. floptical disks), hardware devices (e.g. read only memory, random access memory (RAM), or flash memory)
  • the program instructions may include not only machine code generated by a compiler, but also high-level language code executable by a computer using an interpreter, etc.
  • the hardware device described above may be various. It can be configured to operate as one or more software modules to perform the operations of the embodiments, and vice versa.
  • Modules or program modules according to various embodiments of the present disclosure may include at least one or more of the above components, some of them may be omitted, or may further include additional components. Operations performed by a module, program module, or other component according to various embodiments of the present disclosure may be executed in a sequential, parallel, repetitive, or heuristic manner. In addition, some operations may be executed in a different order, may be omitted, or other operations may be added.
  • the embodiments disclosed in the present specification are presented for the purpose of explanation and understanding of the technical contents, and do not limit the scope of the techniques described in the present document. Accordingly, the scope of this document should be construed as including all changes or various other embodiments based on the technical spirit of this document.
  • FIG. 4 is a diagram illustrating an example of a configuration of an image processing apparatus according to various embodiments of the present disclosure.
  • the image processing apparatus may include one lens 410, a distribution unit 420, first and second sensors 430 and 440, and a processor 450.
  • the processor 450 may include an image processor 452 and a sensor driver 454.
  • the image processor 452 and the sensor driver 454 are illustrated as being included in the processor 450, but may be configured independently of the processor 450.
  • the drawing shows an example having two sensors, it may be possible to implement by more than one sensor.
  • one lens may be added, and a plurality of sensors may be disposed corresponding to the added lens.
  • the lens 410 is a transparent glass that refracts light reflected from a subject, and may be attached to the front of the camera body in a cylindrical shape regardless of its type, such as a television camera, a film camera, a photo camera, and the like. Although the lens 410 has a different shape and size, the lens 410 generally performs the same function of reproducing a subject's appearance as an eye of a camera.
  • the lens 410 may be classified into various types according to its function. For example, the lens may be classified into a wide-angle lens, a standard lens, a telephoto lens, and a zoom lens according to the focal length. In addition, the lens 410 may be classified according to characteristics such as brightness or speed. For example, the brightness or speed of the lens may be a characteristic of the lens 410 associated with the minimum aperture value f. The brightness of the lens 410 means a minimum aperture value f (maximum aperture opening).
  • the distribution unit 420 may distribute the light refracted through the lens 410 in a predetermined number of paths. For example, by reflecting the light refracted through the lens 410 in each of the two paths using a medium such as a mirror, the same light may be delivered to a desired place.
  • the first sensor 430 and the second sensor 440 may detect light supplied through the distribution unit 420 and generate an electrical image signal (image frame) based on the detected light.
  • the devices constituting the first sensor 430 and the second sensor 440 may include a metal oxide semiconductor (MOS), a charge coupled device (CCD), or a complementary metal oxide semiconductor (CMOS).
  • MOS metal oxide semiconductor
  • CCD charge coupled device
  • CMOS complementary metal oxide semiconductor
  • the first sensor 430 and the second sensor 440 may be classified into a black and white image sensor and a color image sensor according to the type of the image represented by the electrical image signal.
  • the reason why the data frame can not be increased in the sensor is because the amount of light received by the sensor is limited.
  • the limitation due to the number of analog-to-digital conversion elements, the bandwidth of the mobile industry processor interface (MIPI), etc. may be a problem that can be solved later when manufacturing an image sensor.
  • the first sensor 430 and the second sensor 440 may have different characteristics due to a device constituting the same.
  • the characteristic is a requirement for determining the nature of the photographed image and the like, and may be a characteristic relating to the type (monochrome, color, etc.), resolution, angle of view, and the like of the image.
  • the first sensor 430 and the second sensor 440 may support different resolutions. That is, the first sensor 430 may support high resolution (high resolution), and the second sensor 440 may support low resolution (low resolution). In addition, the first sensor 430 may generate a black and white image based on the detected light, and the second sensor 440 may generate a color image based on the detected light. The first sensor 430 and the second sensor 440 may generate images at different angles of view. In addition, the first sensor 430 and / or the second sensor 440 may differ in a number of characteristics. That is, the first sensor 430 may be a black and white (BW) image sensor capable of obtaining a black and white image having a relatively high resolution, and the second sensor 440 may obtain a color image having a relatively low resolution. Color image sensor.
  • BW black and white
  • the monochrome image sensor can provide a relatively high frame rate (fps) compared to the color image sensor. That is, more image frames acquired during the same time in the same shooting environment may be acquired by the monochrome image sensor than by the color image sensor.
  • the black and white image acquired by the black and white image sensor has a relatively small amount of data compared to the color image obtained by the color image sensor.
  • Independent shooting conditions may be set for the first sensor 430 and the second sensor 440.
  • an exposure value, a shutter speed, an exposure time, an ISO characteristic value, an aperture value, and the like of the first sensor 430 and the second sensor 440 may be set differently.
  • characteristics of the image obtained from the first sensor 430 and the image obtained from the second sensor 440 may be different.
  • a plurality of color images having a low resolution and a black and white image having a high resolution may be obtained by the first sensor 430 and the second sensor 440 where different shooting conditions are set. That is, a plurality of color images under a plurality of photographing conditions may be photographed during a read time of one monochrome image.
  • the color image sensor eg, the second image sensor 440
  • the photographing may be attempted using only the monochrome image sensor (eg, the first image sensor 430).
  • one monochrome image may be generated by synthesizing a plurality of monochrome images output by the monochrome image sensor (eg, the first image sensor 430).
  • the processor 450 provides a solution for solving a problem that a high frame rate cannot be obtained due to the amount of light received, and a solution for solving a large amount of computation for processing the same.
  • the processor 450 sets independent photographing conditions for each of the first sensor 430 and the second sensor 440, and is provided from the first sensor 430 and the second sensor 440.
  • Image matching including color synthesis and image synthesis, may be performed using image frames.
  • the sensor driver 454 constituting the processor 450 may control driving of each of the first sensor 430 and the second sensor 440. That is, the sensor driver 454 may turn on or off both the first sensor 430 and the second sensor 440 or turn on only one of the first sensor 430 and the second sensor 440. have.
  • the sensor driver 454 may set different camera setting values (exposure conditions such as exposure) for the first sensor 430 and the second sensor 450 in a low light environment.
  • the image processor 452 may obtain images having different characteristics, and synthesize the images having different characteristics, thereby obtaining a bright and clean image even in a low light environment.
  • the image processor 452 may use a wide dynamic range (DR) of the black-and-white image and DR and color reproduction characteristics of the color image.
  • DR wide dynamic range
  • the sensor driver 454 may turn off the second sensor 440, which is a color image sensor, and turn on the first sensor 430, which is a black and white image sensor, in an extremely low light environment.
  • the image processor 452 may generate a new image by synthesizing the black and white images photographed by the first sensor 430.
  • the first sensor 430 may photograph each of the black and white images by different settings.
  • the sensor driver 454 may set a plurality of shooting conditions for each sensor.
  • the image processor 454 constituting the processor 450 performs FRC operation using first image frames provided from the first sensor 430 and second image frames provided from the second sensor 440. Can be performed.
  • the FRC operation may include a scheme based on a duplicating frame and a scheme based on motion compensation.
  • the image processor 452 obtains monochrome image frames (source monochrome image frames) having a relatively high data rate from the first sensor 430, and relatively low data rate from the second sensor 440. Color image frames having a may be obtained.
  • the image processor 452 may configure duplicate black and white image frames (or extended black and white image frames) from the black and white image frames.
  • the image processor 452 may perform image registration based on source monochrome image frames, extended monochrome image frames, and color image frames.
  • the image registration may include color synthesis, image synthesis, and the like.
  • the color composition may perform color diffusion on source monochrome image frames and extended monochrome image frames using color information obtained from color image frames.
  • the color diffusion may be achieved by spreading the acquired color information into source monochrome image frames and extended monochrome image frames.
  • the image synthesis may be performed by applying luminance information obtained from the source monochrome image frames and the extended monochrome image frames to the color image frames.
  • color image frames obtained by converting data rates that is, color image frames having improved resolution may be obtained as output images.
  • An FRC for obtaining duplicate image frames (or extended image frames) using the black and white image frames (source black and white image frames) may include a scheme by a duplicate frame, a scheme by motion compensation, and the like.
  • the FRC may be performed based on an edged block scaling (EBS) image format.
  • the EBS image format is an image format defined for image compression and transmission based on information corresponding to each of edge, block, and scaling extracted from an image.
  • the information (side information) corresponding to the block (B) may be information about a motion vector that can be obtained from the color image frame.
  • the image processing unit 450 should be able to solve the problem of calculation amount due to FRC.
  • the image processor 450 performs down scaling on a color image frame, obtains a motion vector from the down scaled low resolution color image frame, and searches for a global motion using the obtained motion vector. can do.
  • the image processor 450 may search for real motion simply and easily based on the global motion vector from the black and white image frames.
  • real motion means real motion vector. As described above, when the actual motion is searched, it is possible to prevent a wrong motion due to a calculation error (local minima, etc.).
  • the motion vector defines a value corresponding to a direction and a size for defining a motion in video frames over time.
  • the motion vector may be divided into a global motion vector and a local motion vector.
  • the global motion vector defines a motion vector generated between two images when the image sensor is shaken or moved or when the image sensor is panned or tilted.
  • the local motion vector defines a motion vector generated between two images when an object and a partial region (eg, an image block) in the image move.
  • the local dense matching may be used to reduce the amount of compressed data by defining an area in which there is no change in movement between successive image frames.
  • the first sensor 430 may be configured as a black and white image sensor
  • the second sensor 440 may be configured as a color image sensor.
  • the black and white image sensor has a characteristic of providing approximately three times the amount of received light as compared to the color image sensor.
  • a black and white image sensor may process 480 fps based on a high resolution (HD class), but a color image sensor may process 240 fps.
  • the monochrome image sensor can process up to 720fps, but it may be possible to adjust the fps according to the AP codec performance, the number of ADCs, and the MIPI bandwidth.
  • the first sensor 430 may output black and white image frames at a frame rate relatively higher than that of the second sensor 450.
  • the second sensor 440 may output color image frames having a lower frame rate than the first sensor 430.
  • the monochrome image sensor corresponding to the first sensor 430 may output a first monochrome image of the subject at a first time, and may output a second monochrome image of the subject at a second time. .
  • the first sensor 430 may output more monochrome images in addition to the first and second monochrome images.
  • the first sensor 430 may output more monochrome images at first time intervals.
  • the color image sensor corresponding to the second sensor 440 may output a color image of the subject.
  • the color image corresponding to the second sensor 440 may output the color image at a third interval between the first time and the second time.
  • the second sensor 440 may output more color images at second time intervals.
  • the resolution of the first monochrome image and the second monochrome image may be relatively higher than the resolution of the color image. Otherwise, the resolution of the color image may be relatively higher than the resolution of the first monochrome image and the second monochrome image.
  • the processor 450 may acquire a first monochrome image, a second monochrome image, and a color image.
  • the processor 450 may use a third time corresponding to a third time existing between the first time and the second time by using at least some information of the first monochrome image and at least some information of the second monochrome image. You can create a black and white image.
  • At least some information of the first monochrome image may be obtained by first edge information corresponding to the first monochrome image, and at least some information of the second monochrome image is a second edge corresponding to the second monochrome image. Can be obtained by information.
  • the processor 450 acquires another color image through the second sensor 440, and obtains a motion vector corresponding to the corresponding subject by using the previously obtained color image and the additionally obtained other color image. Can be obtained.
  • the processor 450 may generate a third monochrome image between the first time and the second time by using at least a portion of the motion vector.
  • the processor 450 may acquire color information or a part of the color information from the obtained color image.
  • the processor 450 may determine the first color and the second color based on at least some of the color information obtained from the color image.
  • the processor 450 may generate the first composite color image by combining the determined first color with the first black and white image.
  • the processor 450 may generate a second composite color image by combining the determined second color with a second black and white image.
  • the processor 450 may store the generated first and second composite color images as video data in a memory.
  • the processor 450 may sequentially display the generated first and second composite color images on the screen.
  • the processor 450 When generating the third black and white image, the processor 450 synthesizes the third color determined based on the color information or other color information associated with the first color image or the second color image to the third black and white image. A third color image may be generated. In addition, the processor 450 may use the at least some information of the first color image and the at least some information of the second color image to display a third color at a third time existing between the first time and the second time. You can also create an image.
  • FIG. 5 is a diagram illustrating another example of a configuration of an image processing apparatus according to various embodiments of the present disclosure.
  • the image processing apparatus illustrated in FIG. 5 has a structure including an independent lens for each sensor in place of the distribution unit 420 constituting the image processing apparatus illustrated in FIG. 4.
  • the first lens 510 and the second lens 520 may be independently configured to correspond to each of the first sensor 530 and the second sensor 540.
  • the first lens 510 and the second lens 520 may have different shapes and sizes, and may be classified into various types according to their functions.
  • the lens may be classified into a wide-angle lens, a standard lens, a telephoto lens, and a zoom lens according to the focal length.
  • the first and second lenses 510 and 520 may be classified according to characteristics such as brightness or speed.
  • the brightness or speed of the lens can be a characteristic of the lens in relation to the minimum aperture value f.
  • the brightness of the first and second lenses 510 and 520 means a minimum aperture value f (maximum aperture opening).
  • the first lens 510 and the second lens 520 may have the same characteristics, but may not.
  • the first lens 510 may be a wide angle lens
  • the second lens 520 may be a telephoto lens.
  • the first lens 510 and the second lens 520 may have different degrees of refraction, amount of light, etc., depending on their types.
  • the number of lenses and the number of sensors in FIGS. 1 and 2 are not limited to the various embodiments proposed. That is, the various proposed embodiments may not be limitedly applied only to a specific number of lenses or a specific number of sensors.
  • the structure proposed in FIG. 1 and the structure proposed in FIG. 2 may be implemented. That is, the image processing apparatus is configured to supply light to a plurality of sensors by using one of the three or more lenses and the distribution unit, and to supply light to the corresponding sensor of each of the remaining two or more lenses. It may also be possible.
  • FIG. 6 is a block diagram illustrating a block configuration for image processing according to various embodiments of the present disclosure.
  • the image processing units 450 and 550 may include a frame rate conversion module 610 and an image matching module 620.
  • the frame rate conversion module 610 may obtain duplicate image frames (or extended image frames) using monochrome image frames (source monochrome image frames) having a relatively high data rate.
  • the image matching module 620 may perform image matching on the source monochrome image frames and the extended image frames after image registration using color image frames having a relatively low data rate.
  • the image registration may include, for example, color compositing that performs color diffusing to add color to source monochrome image frames and extended image frames using color information obtained from the color image frame. have.
  • the image registration may include image synthesis, for example, to increase the resolution of the color image frame using luminance information obtained from the source monochrome image frames and the extended image frames.
  • the image processing units 450 and 550 may obtain color image frames obtained by converting a data rate as a result of image matching as an output image.
  • the frame rate conversion module 610 may perform FRC to obtain duplicate image frames (or extended image frames) using monochrome image frames (source monochrome image frames).
  • the frame rate conversion module 610 may perform ERC by a scheme based on a duplicate frame and a scheme based on motion compensation.
  • the frame rate conversion module 610 may perform FRC based on EBS.
  • the EBS may be able to extract a more accurate motion vector by performing a global motion search on a color image, extracting edges of a black and white image, and performing FRC on the extracted edges.
  • the image matching module 620 performs down scaling on a color image frame, obtains a motion vector from the down-scaled low resolution color image frame, and searches for a global motion using the obtained motion vector. Can be.
  • the image matching module 620 may search for simple real motion based on the global motion from black and white image frames.
  • FIG. 7 is a diagram illustrating a control flow for an image processing procedure according to various proposed embodiments.
  • the image processing apparatus may receive a captured image in step 710.
  • the captured image may include one or multiple lenses.
  • the light refracted by may be detected by the plurality of sensors
  • the detected light may be output as an electrical image signal (image frames) by each of the plurality of sensors.
  • the image processing apparatus may extract a black and white image frame using one of the plurality of sensors.
  • the image processing apparatus may perform frame rate conversion using the black and white image frames extracted in step 714.
  • duplicate image frames may be obtained using monochrome image frames (source monochrome image frames) having a relatively high data rate. That is, FRC may be performed to obtain duplicate image frames (or extended image frames) using monochrome image frames (source monochrome image frames). The FRC may be performed by a scheme using a duplicate frame, a scheme by motion compensation, or the like.
  • FRC may be performed based on EBS.
  • the EBS may be able to extract a more accurate motion vector by performing a global motion search on a color image, extracting edges of a black and white image, and performing FRC on the extracted edges.
  • the image processing apparatus may extract a color image frame using one of the plurality of sensors.
  • the image processing apparatus may search for the motion vector using the color image frames extracted in operation 718.
  • the image processing apparatus may perform color matching on the source monochrome image frames and the extended image frames after image registration using color image frames having a relatively low data rate.
  • downscaling may be performed on a color image frame, and a motion vector may be obtained from the downscaled low resolution color image frame.
  • the global motion vector may be searched using the obtained motion vector.
  • the simple real motion may be searched based on the global motion vector from the black and white image frames.
  • the image processing apparatus may perform coloring of the black and white image frames in which the frame rate is converted, based on the searched motion vector. As a result, the image processing apparatus may obtain color image frames obtained by converting data rates as an output image.
  • FIG. 8 is a diagram illustrating a photographing example using two image sensors in an electronic device according to various embodiments of the present disclosure.
  • the upper two color images (a, b) are photographed by the color image sensor with different exposure conditions, and the lower one monochrome image (c) is photographed by the monochrome image sensor.
  • the ability to capture two color images (a, b) corresponding to one monochrome image (c) at the same time is due to the difference in resolution between the monochrome image and the color image. That is, the black and white image may have a higher resolution than the color image.
  • the lead time for the high resolution black and white image may be relatively long compared to the lead time for the low resolution color image.
  • the exposure time for the second color image b is set longer than the first color image a.
  • FIG. 9 is a diagram illustrating an image synthesis example in an electronic device according to various embodiments of the present disclosure.
  • one composite image d may be generated by combining two color images a and b into one black and white image c. It can be seen that the operating range DR of the single monochrome image c is relatively wider than the operating range DR of the two color images a and b. In addition, it can be seen that an operating range of the color image b is wider than that of the color image a among the two color images a and b.
  • the one composite image d may acquire brightness information from one black and white image c, obtain color difference information from two color images a and b, and generate using the obtained brightness information and color difference information.
  • FIG. 10 is a diagram illustrating an image compositing procedure in an electronic device according to various embodiments of the present disclosure.
  • an image compositing procedure in a low light situation may include an information extraction step 1010 and an image combining step 1020.
  • the information extraction step 1010 extracts brightness information from a black and white image photographed by a short exposure time (1012), and extracts color difference information from a plurality of color images photographed by a long exposure time (1016). can do.
  • settings for short exposure times (such as exposure and shutter speed) are made for image sensors that will shoot black and white images
  • settings for long exposure times (such as exposure and shutter speed) for image sensors that will shoot multiple color images. ) Can be achieved.
  • the photographing of the black and white image and the photographing of the plurality of color images should be able to be performed for almost similar time.
  • a procedure of photographing several images and improving brightness using the photographed images may be performed (1014). This applies not only to the black and white image but also to the color image.
  • the shooting conditions may be set so that the long exposure is performed on the color image sensor.
  • a color image sensor requiring a long exposure its operation may be blocked in an extremely low light environment.
  • a plurality of black and white images photographed under different conditions may be acquired using only a black and white image sensor, and a black and white image of improved quality may be generated based on the plurality of black and white images.
  • FIG. 11 is a diagram illustrating an example of an image processing result according to various embodiments of the present disclosure.
  • two left images are examples of color images and black and white images acquired by a color image sensor and a black and white image sensor in a low light environment
  • two right images are obtained after image processing according to the proposed embodiment.
  • Example of an image It can be seen that the resulting image after the image processing is brighter and cleaner than the image before the image processing.
  • FIG. 12 is a flowchart illustrating a control flow for image processing in an electronic device according to various embodiments of the present disclosure.
  • the electronic device acquires a plurality of black and white images using the first image sensor (step 1210).
  • the electronic device may acquire a first monochrome image of the subject at a first time and a second monochrome image of the subject at a second time.
  • the electronic device may output more monochrome images in addition to the first and second monochrome images through the first image sensor. That is, the electronic device may acquire more monochrome images at a first time interval by using the first image sensor.
  • the electronic device uses the at least partial information of the first monochrome image and the at least partial information of the second monochrome image to generate a third monochrome image at an arbitrary time existing between the first time and the second time. Can be generated.
  • the electronic device may obtain at least partial information of the first monochrome image by first edge information corresponding to the first monochrome image.
  • the electronic device may acquire at least some information of the second monochrome image by second edge information corresponding to the second monochrome image.
  • the electronic device acquires a color image of the subject using a second image sensor.
  • the electronic device may acquire the color image at any time between a first time and a second time when the first and second monochrome images are acquired.
  • the electronic device may acquire more color images at second time intervals.
  • the electronic device may acquire another color image through the second image sensor.
  • the electronic device may acquire a motion vector corresponding to the corresponding subject by using the previously obtained color image and another additionally obtained color image.
  • the electronic device may generate a third black and white image between a first time and a second time using at least a portion of the motion vector.
  • the first image sensor has a property of providing approximately 3 times the amount of light received compared to the second image sensor (color image sensor).
  • a black and white image sensor may process 480 fps based on a high resolution (HD class), but a color image sensor may process 240 fps.
  • the monochrome image sensor can process up to 720 fps, but it may be possible to adjust the fps according to the AP codec performance, the number of ADCs, and the MIPI bandwidth.
  • the first image sensor may output black and white image frames at a frame rate relatively higher than that of the second image sensor.
  • the second image sensor may output color image frames having a lower frame rate than the first image sensor.
  • the electronic device may acquire a first monochrome image, a second monochrome image, and a color image.
  • the resolution of the first monochrome image and the second monochrome image may be relatively higher than the resolution of the color image. Otherwise, the resolution of the color image may be relatively higher than the resolution of the first monochrome image and the second monochrome image.
  • the electronic device may acquire color information or a part of the color information from the obtained color image (step 1214).
  • the electronic device may generate a plurality of composite color images through image registration using the acquired color information or a part of the color information (step 1216).
  • the electronic device may determine the first color and the second color based on at least some of the acquired color information.
  • the electronic device may generate a first composite color image by combining the determined first color with a first monochrome image.
  • the electronic device may generate a second composite color image by combining the determined second color with a second monochrome image.
  • the electronic device may store the generated first and second composite color images as video data in a memory in operation 1218.
  • the electronic device may sequentially display the generated first and second composite color images on a screen.
  • the electronic device When generating the third black and white image, the electronic device synthesizes a third color determined based on color information or other color information associated with a first color image or a second color image, to the third black and white image to form a third image. You can also create a color image. In addition, the electronic device uses the at least partial information of the first color image and the at least partial information of the second color image to display a third color image at a third time existing between the first time and the second time. You can also create

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • Human Computer Interaction (AREA)
  • Image Processing (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

본 개시의 다양한 실시 예에서는 프레임 레이트 (frame rate)를 변환하기 위한 이미지 처리장치 및 방법을 제안한다. 이를 위해, 흑백 센서를 통해 획득한 흑백 이미지 프레임들을 기반으로 프레임 레이트를 변환하고, 컬러 센서를 통해 획득한 다운 샘플링된 컬러 이미지 프레임을 사용하여 상기 프레임 레이트 변환된 흑백 이미지 프레임과의 영상 합성을 수행하는 이미지 처리장치 및 방법을 제공할 수 있다.

Description

이미지 처리장치 및 방법
본 개시의 다양한 실시 예들은 다수의 이미지 센서들에 의해 획득한 이미지를 변환하는 이미지 처리장치 및 방법에 관한 것이다.
최근 방송 서비스는 통신 서비스와의 융합에 의한 영상 통신 서비스가 일반화되었다. 상기 영상 통신 서비스는 빠른 정보 처리가 가능한 단말뿐만 아니라 고속의 정보 전달을 제공하는 광대역 네트워크를 기반으로 하고 있다.
상기 영상 통신 서비스를 지원하는 단말은 이미지 처리로 인한 많은 전력 소모가 발생한다. 특히 처리할 이미지의 해상도는 디스플레이 시에 단말의 소비 전력을 결정하는 주요한 요인이 될 수 있다. 예컨대 휴대할 수 있는 단말 (이하 '휴대 단말'이라 칭함)에서 디스플레이 시의 소비 전력은 처리할 이미지의 해상도에 비례하여 증가할 수 있다.
상기 이미지 해상도의 증가는 처리할 이미지에 관한 정보를 전달할 링크 상에서의 대역폭을 증가시킨다. 일 예로 하나의 디바이스 내에서 애플리케이션 프로세서 (AP: Application Processor)가 디스플레이 디바이스로 프레임을 전송하기 위한 대역폭은 디스플레이 해상도에 비례하여 증가한다. 다른 예로 하나의 디바이스가 무선 네트워크상에서 다른 디바이스로 멀티미디어 데이터를 전달하는 경우, 상기 전달할 멀티미디어 데이터의 크기에 비례하여 상기 무선 네트워크에서 사용할 대역폭이 증가할 수 있다.
출력장치 (예: 디스플레이)의 발전 및 개선된 화질의 영상에 대한 사용자의 요구에 따라, 출력장치를 통하여 표시되는 영상의 해상도가 높아지고, 영상의 크기가 증가할 수 있다. 이에 따라, 전자장치에서 크고 복잡한 영상의 화질을 개선하기 위한 다양한 영상 처리 방법들이 개발되고 있다. 상기 화질을 개선하기 위한 영상 처리 기술 중 하나로 HDR (high dynamic range) 기술이 있다. 상기 HDR 기술은 밝기가 다른 사진을 연속하여 촬영한 후, 적어도 두 장의 사진을 하나의 사진으로 합성하는 기술이다.
고화질 또는 대용량의 영상을 처리하는 데에 전자장치는 많은 양의 자원을 사용할 수 있다. 예를 들면, 고화질의 영상의 변환 또는 보정과 관련된 많은 양의 데이터 연산을 수행하기 위해, 전자장치는 상대적으로 많은 양의 메모리 또는 처리 자원 (processing resource)을 사용할 수 있다. 또한, 다른 전자장치로 대용량의 영상을 전송하기 위해, 데이터 전송량 또는 전송 속도를 증가시킬 수 있도록, 전자장치는, 상대적으로 많은 양의 네트워킹 자원을 사용할 수 있다.
전자장치는, 고화질의 영상을 처리하고 대용량의 영상을 전송하기 위하여, 영상을 특정 영상 포맷으로 변환할 수 있다. 예를 들면, 전자장치는 RGB (red-green-blue) 색 모델에 기반한 영상의 적색 성분, 녹색 성분, 및 청색 성분을, 영상의 밝기 (luminance) 성분, 청색 색차 성분 (blue difference chroma component), 및 적색 색차 성분 (red difference chroma component)으로 이루어진 YCbCr 영상 포맷으로 변환하여 영상을 처리할 수 있다. 예를 들면, 전자장치는 영상의 YCbCr 영상 포맷에 포함된 밝기 성분을 조절 (예: 증가)하여 영상의 밝기를 조절 (예: 증가)할 수 있다.
전자장치에서의 영상 품질은, 구비된 렌즈, 이미지 센서 등의 성능에 비례할 수 있다. 하지만, 고화질의 영상을 얻기 위해, 전자장치에 높은 성능의 렌즈, 이미지 센서 등을 구비하도록 하는 것은, 상기 전자장치를 생산하는 비용을 증가시키는 원인으로 작용할 수 있다.
따라서, 전자장치에 구비된 렌즈, 이미지 센서 등의 하드웨어 성능을 유지하면서 촬영 조건의 변화, 효율적인 이미지 처리 등을 기반으로 고 해상도의 이미지를 얻을 수 있는 방안을 마련하는 것이 필요하다.
본 개시의 다양한 실시 예에 따르면, 서로 다른 특성이 있는 두 개의 센서를 사용하여 프레임 레이트를 변환하는 이미지 처리장치 및 방법을 제공할 수 있다.
본 개시의 다양한 실시 예에 따르면, 서로 다른 특성이 있는 두 개의 센서를 사용하여 획득한 서로 다른 특성의 이미지를 합성하여 새로운 이미지를 생성하는 이미지 처리장치 및 방법을 제공할 수 있다.
본 개시의 다양한 실시 예에 따르면, 촬영을 위한 조건을 서로 다르게 설정한 적어도 두 개의 센서를 통해 획득한 다수의 이미지를 기반으로 새로운 이미지를 생성하는 이미지 처리장치 및 방법을 제공할 수 있다.
본 개시의 다양한 실시 예에 따르면, 흑백 센서를 통해 획득한 흑백 이미지 프레임들을 기반으로 프레임 레이트를 변환하고, 컬러 센서를 통해 획득한 컬러 이미지 프레임을 사용하여 상기 프레임 레이트 변환된 흑백 이미지 프레임과의 영상 정합을 수행하는 이미지 처리장치 및 방법을 제공할 수 있다.
본 개시의 다양한 실시 예에 따른 전자 장치는, 메모리와, 제 1 흑백 (BW) 이미지 센서와, 제 2 이미지 센서 및 프로세서를 포함하되,
상기 프로세서는, 상기 제 1 BW 이미지 센서를 이용하여, 피사체에 대한 제 1 시간에 대응하는 제 1 흑백 이미지, 및 상기 피사체에 대한 제 2 시간에 대응하는 제 2 흑백 이미지를 획득하고, 상기 제 2 이미지 센서를 이용하여, 상기 피사체에 대한 컬러 이미지를 획득하고, 상기 제 1 흑백 이미지에 상기 컬러 이미지의 색상 정보 중 적어도 일부를 기반으로 하여 결정된 제 1 색상이 합성된 제 1 컬러 이미지를 생성하고, 상기 제 2 흑백 이미지에 상기 색상 정보 중 적어도 일부를 기반으로 하여 결정된 제 2 색상이 합성된 제 2 컬러 이미지를 생성하고, 상기 제 1 컬러 이미지와 상기 제 2 컬러 이미지를 상기 메모리에 비디오 데이터로 저장하도록 설정될 수 있다.
본 개시의 다양한 실시 예에 따른 제 1 흑백 (BW) 이미지 센서 및 제 2 이미지 센서를 포함하는 전자 장치에서의 동작 방법은, 상기 제 1 BW 이미지 센서를 이용하여, 피사체에 대한 제 1 시간에 대응하는 제 1 흑백 이미지, 및 상기 피사체에 대한 제 2 시간에 대응하는 제 2 흑백 이미지를 획득하는 동작과, 상기 제 2 이미지 센서를 이용하여, 상기 피사체에 대한 컬러 이미지를 획득하는 동작과, 상기 제 1 흑백 이미지에 상기 컬러 이미지의 색상 정보 중 적어도 일부를 기반으로 하여 결정된 제 1 색상이 합성된 제 1 컬러 이미지를 생성하고, 상기 제 2 흑백 이미지에 상기 색상 정보 중 적어도 일부를 기반으로 하여 결정된 제 2 색상이 합성된 제 2 컬러 이미지를 생성하는 동작 및 상기 제 1 컬러 이미지 및 상기 제 2 컬러 이미지를 상기 메모리에 비디오 데이터로 저장하는 동작을 포함할 수 있다.
본 개시의 다양한 실시 예에 따른 제 1 흑백 (BW) 이미지 센서 및 제 2 이미지 센서를 포함하는 전자 장치의 컴퓨터 판독 가능한 기록 매체는, 상기 제 1 BW 이미지 센서를 이용하여, 피사체에 대한 제 1 시간에 대응하는 제 1 흑백 이미지, 및 상기 피사체에 대한 제 2 시간에 대응하는 제 2 흑백 이미지를 획득하는 동작과, 상기 제 2 이미지 센서를 이용하여, 상기 제 1 시간 및 상기 제 2 시간 사이에 속하는 제 3 시간에 대응하는, 상기 피사체에 대한 컬러 이미지를 획득하는 동작과, 상기 제 1 흑백 이미지에 상기 컬러 이미지의 색상 정보 중 적어도 일부를 기반으로 하여 결정된 제 1 색상이 합성된 제 1 컬러 이미지를 생성하고, 상기 제 2 흑백 이미지에 상기 색상 정보 중 적어도 일부를 기반으로 하여 결정된 제 2 색상이 합성된 제 2 컬러 이미지를 생성하는 동작 및 상기 제 1 컬러 이미지 및 상기 제 2 컬러 이미지를 상기 메모리에 비디오 데이터로 저장하는 동작을 실행시키기 위한 프로그램을 기록할 수 있다.
본 개시의 다양한 실시 예에 따라 이미지를 처리하는 장치 및 방법은, 높은 프레임 레이트를 가지는 이미지의 획득을 저해하는 수광량과 연산량의 문제를 해결할 수 있다.
도 1은 제안된 다양한 실시 예에 따른, 무선 터미널을 포함하는 네트워크 환경을 도시한 도면이다.
도 2는 제안된 다양한 실시 예에 따른, 무선 터미널에 대한 블록 구성을 도시한 도면이다.
도 3은 제안된 다양한 실시 예에 따른, 프로그램 모듈에 대한 블록 구성을 도시한 도면이다.
도 4는 제안된 다양한 실시 예에 따른, 이미지 처리장치의 구성에 대한 일 예를 도시한 도면이다.
도 5는 제안된 다양한 실시 예에 따른, 이미지 처리장치의 구성에 대한 다른 일 예를 도시한 도면이다.
도 6은 제안된 다양한 실시 예에 따른, 이미지 처리를 위한 블록 구성을 도시한 도면이다.
도 7은 제안된 다양한 실시 예에 따른, 이미지 처리 절차에 대한 제어 흐름을 도시한 도면이다.
도 8은 제안된 다양한 실시 예에 따른, 전자장치에서의 두 개의 이미지 센서를 사용한 촬영 예를 도시한 도면이다.
도 9는 제안된 다양한 실시 예에 따른, 전자장치에서 이미지 합성 예를 도시한 도면이다.
도 10은 제안된 다양한 실시 예에 따른, 전자장치에서 이미지 합성 절차를 도시한 도면이다.
도 11은 제안된 다양한 실시 예에 따른, 이미지 처리 결과에 대한 예를 도시한 도면이다.
도 12는 제안된 다양한 실시 예에 따른, 전자장치에서의 이미지 처리를 위한 제어 흐름을 도시한 도면이다.
이하, 본 문서의 다양한 실시 예가 첨부된 도면을 참조하여 기재된다. 이는 본 문서에 기재된 기술을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 문서의 실시 예의 다양한 변경 (modifications), 균등물 (equivalents), 및/또는 대체물 (alternatives)을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다.
본 문서에서, "가진다", "가질 수 있다", "포함한다", 또는 "포함할 수 있다" 등의 표현은 해당 특징 (예: 수치, 기능, 동작, 또는 부품 등의 구성요소)의 존재를 가리키며, 추가적인 특징의 존재를 배제하지 않는다.
본 문서에서, "A 또는 B", "A 또는/및 B 중 적어도 하나", 또는 "A 또는/및 B 중 하나 또는 그 이상" 등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. 예를 들면, "A 또는 B", "A 및 B 중 적어도 하나", 또는 "A 또는 B 중 적어도 하나"는, (1) 적어도 하나의 A를 포함, (2) 적어도 하나의 B를 포함, 또는 (3) 적어도 하나의 A 및 적어도 하나의 B 모두를 포함하는 경우를 모두 지칭할 수 있다.
본 문서에서 사용된 "제 1", "제 2", "첫 째", 또는 "둘 째" 등의 표현들은 다양한 구성요소들을, 순서 및/또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다. 예를 들면, 제 1 사용자 기기와 제 2 사용자 기기는, 순서 또는 중요도와 무관하게, 서로 다른 사용자 기기를 나타낼 수 있다. 예를 들면, 본 문서에 기재된 권리 범위를 벗어나지 않으면서 제 1 구성요소는 제 2 구성요소로 명명될 수 있고, 유사하게 제 2 구성요소도 제 1 구성요소로 바꾸어 명명될 수 있다.
어떤 구성요소 (예: 제 1 구성요소)가 다른 구성요소 (예: 제 2 구성요소)에 "(기능적으로 또는 통신적으로) 연결되어 ((operatively or communicatively) coupled with/to)" 있다거나 "접속되어 (connected to)" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 또 다른 구성요소 (예: 제 3 구성요소)를 통하여 연결될 수 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소 (예: 제 1 구성요소)가 다른 구성요소 (예: 제 2 구성요소)에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소와 상기 다른 구성요소 사이에 또 다른 구성요소 (예: 제 3 구성요소)가 존재하지 않는 것으로 이해될 수 있다.
본 문서에서 사용된 표현 "~하도록 구성된 (또는 설정된)(configured to)"은 상황에 따라, 예를 들면, "~에 적합한 (suitable for)", "~하는 능력을 가지는 (having the capacity to)", "~하도록 설계된 (designed to)", "~하도록 변경된 (adapted to)", "~하도록 만들어진 (made to)", 또는 "~를 할 수 있는 (capable of)"과 바꾸어 사용될 수 있다. 용어 "~하도록 구성된 (또는 설정된)"은 하드웨어적으로 "특별히 설계된 (specifically designed to)" 것만을 반드시 의미하지 않을 수 있다. 대신, 어떤 상황에서는, "~하도록 구성된 장치"라는 표현은, 그 장치가 다른 장치 또는 부품들과 함께 "~할 수 있는" 것을 의미할 수 있다. 예를 들면, 문구 "A, B, 및 C를 수행하도록 구성된 (또는 설정된) 프로세서"는 해당 동작을 수행하기 위한 전용 프로세서 (예: 임베디드 프로세서), 또는 메모리 장치에 저장된 하나 이상의 소프트웨어 프로그램들을 실행함으로써, 해당 동작들을 수행할 수 있는 범용 프로세서 (generic-purpose processor) (예: CPU 또는 application processor)를 의미할 수 있다.
본 문서에서 사용된 용어들은 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 다른 실시 예의 범위를 한정하려는 의도가 아닐 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 용어들은 본 문서에 기재된 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가질 수 있다. 본 문서에 사용된 용어들 중 일반적인 사전에 정의된 용어들은, 관련 기술의 문맥상 가지는 의미와 동일 또는 유사한 의미로 해석될 수 있으며, 본 문서에서 명백하게 정의되지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다. 경우에 따라서, 본 문서에서 정의된 용어일지라도 본 문서의 실시 예들을 배제하도록 해석될 수 없다.
본 문서의 다양한 실시 예들에 따른 전자 장치는, 예를 들면, 스마트폰 (smartphone), 태블릿 PC (tablet personal computer), 이동 전화기 (mobile phone), 영상 전화기, 전자책 리더기 (e-book reader), 데스크탑 PC (desktop personal computer), 랩탑 PC (laptop personal computer), 넷북 컴퓨터 (netbook computer), 워크스테이션 (workstation), 서버, PDA (personal digital assistant), PMP (portable multimedia player), MP3 플레이어, 모바일 의료기기, 카메라 (camera), 또는 웨어러블 장치 (wearable device) 중 적어도 하나를 포함할 수 있다. 다양한 실시 예에 따르면, 웨어러블 장치는 액세서리형 (예: 시계, 반지, 팔찌, 발찌, 목걸이, 안경, 콘택트렌즈, 또는 머리 착용형 장치 (head-mounted-device(HMD)), 직물 또는 의류 일체형 (예: 전자 의복), 신체 부착형 (예: 스킨 패드(skin pad) 또는 문신), 또는 생체 이식형 (예: implantable circuit) 중 적어도 하나를 포함할 수 있다.
어떤 실시 예들에서, 전자 장치는 가전제품(home appliance)일 수 있다. 가전 제품은, 예를 들면, 텔레비전, DVD(digital video disk) 플레이어, 오디오, 냉장고, 에어컨, 청소기, 오븐, 전자레인지, 세탁기, 공기 청정기, 셋톱 박스 (set-top box), 홈 오토매이션 컨트롤 패널 (home automation control panel), 보안 컨트롤 패널 (security control panel), TV 박스 (예: 삼성 HomeSyncTM, 애플TVTM, 또는 구글 TVTM), 게임 콘솔 (예: XboxTM, PlayStationTM), 전자 사전, 전자 키, 캠코더 (camcorder), 또는 전자 액자 중 적어도 하나를 포함할 수 있다.
다른 실시 예에서, 전자 장치는, 각종 의료기기 (예: 각종 휴대용 의료측정기기 (혈당 측정기, 심박 측정기, 혈압 측정기, 또는 체온 측정기 등), MRA (magnetic resonance angiography), MRI (magnetic resonance imaging), CT (computed tomography), 촬영기, 또는 초음파기 등), 네비게이션 (navigation) 장치, GPS 수신기 (global positioning system receiver), EDR (event data recorder), FDR (flight data recorder), 자동차 인포테인먼트 (infotainment) 장치, 선박용 전자 장비 (예: 선박용 항법 장치, 자이로 콤파스 등), 항공 전자기기 (avionics), 보안 기기, 차량용 헤드 유닛 (head unit), 산업용 또는 가정용 로봇, 금융 기관의 ATM (automatic teller's machine), 상점의 POS (point of sales), 또는 사물 인터넷 장치 (internet of things) (예: 전구, 각종 센서, 전기 또는 가스 미터기, 스프링클러 장치, 화재경보기, 온도조절기 (thermostat), 가로등, 토스터 (toaster), 운동기구, 온수탱크, 히터, 보일러 등) 중 적어도 하나를 포함할 수 있다.
어떤 실시 예에 따르면, 전자 장치는 가구 (furniture) 또는 건물/구조물의 일부, 전자 보드 (electronic board), 전자 사인 수신 장치 (electronic signature receiving device), 프로젝터 (projector), 또는 각종 계측 기기 (예: 수도, 전기, 가스, 또는 전파 계측 기기 등) 중 적어도 하나를 포함할 수 있다. 다양한 실시 예에서, 전자 장치는 전술한 다양한 장치들 중 하나 또는 그 이상의 조합일 수 있다. 어떤 실시 예에 따른 전자 장치는 플렉서블 전자 장치일 수 있다. 또한, 본 문서의 실시 예에 따른 전자 장치는 전술한 기기들에 한정되지 않으며, 기술 발전에 따른 새로운 전자 장치를 포함할 수 있다.
본 개시에서 제안된 다양한 실시 예에서는 높은 프레임 레이트를 가지는 컬러 이미지를 획득하기 위한 방안으로써, 하기의 세 가지 방안에 대해 설명할 것이다. 즉, 상대적으로 낮은 프레임 레이트 (저 화질)의 컬러 영상에서 얻을 수 있는 색상 정보를 사용하여 높은 프레임 레이트 (고 화질)의 흑백 영상에 컬러를 확산 (컬러 디퓨징 (color diffusing))시킴으로써, 높은 프레임 레이트 (고 화질)의 컬러 영상을 생성할 수 있도록 한다.
그 첫 번째로, 흑백 (BW) 이미지 센서의 높은 수광량을 이용하는 방안이다. 해당 방안은 흑백 이미지 센서와 컬러 이미지 센서의 조합을 통해 다수의 흑백 이미지를 획득하고, 상기 획득한 다수의 흑백 이미지를 컬러 이미지와 합성함으로써, 높은 프레임 레이트를 가지는 컬러 이미지 (고 해상도의 컬러 이미지, 컬러의 슬로우 비디오)를 얻을 수 있다. 이 경우, 흑백 이미지 센서와 컬러 이미지 센서의 해상도에는 제한이 없을 수 있다.
그 두 번째로, 프레임 레이트 변환 (FRC: frame rate conversion) 연산을 이용하는 방안이다. 해당 방안은 (상대적으로) 저 해상도인 컬러 이미지로 모션 벡터 (motion vector)를 검색 (search)하고, 이 값을 기반으로 (상대적으로) 고 해상도인 흑백 이미지에서 지역 밀집 매칭 (local dense matching) 및 FRC 연산을 수행할 수 있다. 이때, 컬러 이미지 센서의 해상도가 흑백 이미지 센서의 해상도보다 낮을 수 있다. 그렇지 않고, 해상도와 무관하게 컬러 이미지 센서로부터 획득한 컬러 이미지를 다운 샘플링하여 저 해상도로 변경한 후 모션 벡터 검색 (motion vector search)을 수행할 수도 있다.
그 세 번째로, 에지 블록 스케일링 (EBS: edged block scaling) 영상 포맷을 이용하는 방안이다. 해당 방안은 EBS 영상 포맷이 다운 샘플링된 컬러 정보 (S), 엣지 정보 (E), 영상 관련 부가정보 (B)로 구성된 영상 포맷이므로, 컬러 정보 (S)와 엣지 정보 (E)를 이용하여 FRC 연산을 수행하는 것이다.
이하, 첨부 도면을 참조하여, 다양한 실시 예에 따른 전자 장치가 설명된다. 본 문서에서, 사용자라는 용어는 전자 장치를 사용하는 사람 또는 전자 장치를 사용하는 장치 (예: 인공지능 전자 장치)를 지칭할 수 있다.
도 1에서는, 다양한 실시 예를 위한 네트워크 환경(100) 내의 전자 장치(101)를 도시한다. 전자 장치(101)는 버스(110), 프로세서(120), 메모리(130), 입출력 인터페이스(150), 디스플레이(160), 통신 인터페이스(170), 및 영상 처리 모듈(140)을 포함할 수 있다. 어떤 실시 예에서는, 전자 장치(101)는, 구성요소들 중 적어도 하나를 생략하거나 다른 구성요소를 추가로 구비할 수 있다.
버스(110)는, 예를 들면, 구성요소들(120-170)을 서로 연결하고, 구성요소들(120-170) 간의 통신 (예: 제어 메시지 및/또는 데이터)을 전달하는 회로를 포함할 수 있다.
프로세서(120)는, 중앙처리장치 (central processing unit (CPU)), 애플리케이션 프로세서 (application processor (AP)), 또는 커뮤니케이션 프로세서 (communication processor (CP)) 중 하나 또는 그 이상을 포함할 수 있다. 프로세서(120)는, 예를 들면, 전자 장치(101)의 적어도 하나의 다른 구성요소들의 제어 및/또는 통신에 관한 연산이나 데이터 처리를 실행할 수 있다.
메모리(130)는, 휘발성 및/또는 비휘발성 메모리를 포함할 수 있다. 메모리(130)는, 예를 들면, 전자 장치(101)의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 저장할 수 있다. 한 실시 예에 따르면, 메모리(130)는 소프트웨어 및/또는 프로그램(180)을 저장할 수 있다. 프로그램(180)은, 예를 들면, 커널(181), 미들웨어(183), 애플리케이션 프로그래밍 인터페이스 (application programming interface (API))(185), 및/또는 애플리케이션 프로그램(또는 "애플리케이션")(187) 등을 포함할 수 있다. 커널(181), 미들웨어(183), 또는 API(185)의 적어도 일부는, 운영 시스템 (operating system (OS))으로 지칭될 수 있다.
커널(181)은, 예를 들면, 다른 프로그램들 (예: 미들웨어(183), API(185), 또는 애플리케이션 프로그램(187))에 구현된 동작 또는 기능을 실행하는 데 사용되는 시스템 리소스들 (예: 버스(110), 프로세서(120), 또는 메모리(130) 등)을 제어 또는 관리할 수 있다. 또한, 커널(181)은 미들웨어(183), API(185), 또는 애플리케이션 프로그램(187)에서 전자 장치(101)의 개별 구성요소에 접근함으로써, 시스템 리소스들을 제어 또는 관리할 수 있는 인터페이스를 제공할 수 있다.
미들웨어(183)는, 예를 들면, API(185) 또는 애플리케이션 프로그램(187)이 커널(181)과 통신하여 데이터를 주고받을 수 있도록 중개 역할을 수행할 수 있다.
또한, 미들웨어(183)는 애플리케이션 프로그램(187)으로부터 수신된 하나 이상의 작업 요청을 우선순위에 따라 처리할 수 있다. 예를 들면, 미들웨어(183)는 애플리케이션 프로그램(187) 중 적어도 하나에 전자 장치(101)의 시스템 리소스 (예: 버스(110), 프로세서(120), 또는 메모리(130) 등)를 사용할 수 있는 우선순위를 부여할 수 있다. 예컨대, 미들웨어(183)는 적어도 하나의 애플리케이션 프로그램에 부여된 우선순위에 따라 하나 이상의 작업 요청을 처리함으로써, 상기 하나 이상의 작업 요청에 대한 스케줄링 또는 로드 밸런싱 등을 수행할 수 있다.
API(185)는, 예를 들면, 애플리케이션 프로그램(187)이 커널(181) 또는 미들웨어(183)에서 제공되는 기능을 제어하기 위한 인터페이스로, 예를 들면, 파일 제어, 창 제어, 영상 처리, 또는 문자 제어 등을 위한 적어도 하나의 인터페이스 또는 함수(예: 명령어)를 포함할 수 있다.
입출력 인터페이스(150)는, 예를 들면, 사용자 또는 다른 외부 기기로부터 입력된 명령 또는 데이터를 전자 장치(101)의 다른 구성요소(들)에 전달할 수 있는 인터페이스의 역할을 할 수 있다. 또한, 입출력 인터페이스(150)은 전자 장치(101)의 다른 구성요소(들)로부터 수신된 명령 또는 데이터를 사용자 또는 다른 외부 기기로 출력할 수 있다. 예컨대, 입출력 인터페이스(150)은 서로 다른 특성을 갖는 다수의 이미지 센서를 포함할 수 있다. 상기 입출력 인터페이스(150)은 다수의 이미지 센서에 의해 촬영된 이미지들을 버스(110)을 통해 영상 처리 모듈(140), 메모리(130), 디스플레이(160), 통신 인터페이스(170) 등으로 전달할 수 있다. 상기 촬영된 이미지들은 서로 다른 이미지 특성을 가질 수 있다. 이는 이미지 센서의 특성, 촬영을 위해 설정된 조건 등의 차이에 따른 것일 수 있다.
디스플레이(160)는, 예를 들면, 액정 디스플레이 (liquid crystal display(LCD)), 발광 다이오드 (light-emitting diode(LED)) 디스플레이, 유기 발광 다이오드 (organic light-emitting diode (OLED)) 디스플레이, 또는 마이크로 전자기계 시스템 (microelectromechanical systems (MEMS)) 디스플레이, 또는 전자종이 (electronic paper) 디스플레이를 포함할 수 있다. 디스플레이(160)는, 예를 들면, 각종 콘텐츠 (예: 텍스트, 이미지, 비디오, 아이콘, 또는 심볼 등)를 표시할 수 있다. 디스플레이(160)는, 터치 스크린을 포함할 수 있으며, 예를 들면, 전자 펜 또는 사용자의 신체의 일부를 이용한 터치, 제스쳐, 근접, 또는 호버링 입력을 수신할 수 있다.
통신 인터페이스(170)는, 예를 들면, 전자 장치(101)와 외부 장치 (예: 제 1 외부 전자 장치(102), 제 2 외부 전자 장치(104), 또는 서버(106)) 간의 통신을 설정할 수 있다. 예를 들면, 통신 인터페이스(170)는 무선 통신 또는 유선 통신을 통해서 네트워크(162)에 연결되어 외부 장치 (예: 제 2 외부 전자 장치(104) 또는 서버(106))와 통신할 수 있다.
무선 통신은, 예를 들면, 셀룰러 통신 프로토콜로서, 예를 들면, LTE (long-term evolution), LTE-A (LTE Advance), CDMA (code division multiple access), WCDMA (wideband CDMA), UMTS (universal mobile telecommunications system), WiBro (wireless broadband), 또는 GSM (global system for mobile communications) 등 중 적어도 하나를 사용할 수 있다. 또한, 무선 통신은, 예를 들면, 근거리 통신(164)을 포함할 수 있다. 근거리 통신(164)은, 예를 들면, WiFi (wireless fidelity), 블루투스 (bluetooth), NFC (near field communication), MST (magnetic stripe transmission), 또는 지그비 (Zigbe) 등에서 적어도 하나를 포함할 수 있다. 무선 통신은 예들 들면, GPS (global positioning system), 또는 GNSS (global navigation satellite system)를 이용할 수 있다. 유선 통신은, 예를 들면, USB (universal serial bus), HDMI (high definition multimedia interface), RS-232 (recommended standard-232), 또는 POTS (plain old telephone service) 등에서 적어도 하나를 포함할 수 있다. 네트워크(162)는 통신 네트워크 (telecommunications network), 예를 들면, 컴퓨터 네트워크 (computer network)(예: LAN 또는 WAN), 인터넷, 또는 전화망 (telephone network) 중 적어도 하나를 포함할 수 있다.
영상 처리 모듈(140)은, 예를 들면, 입력 영상과 관련된 엣지 정보 (예: 고주파 성분 정보)의 일부 또는 스케일 정보 (예: 다운스케일된 영상)의 일부에 기반하여 생성된 부가 정보 (예: 엣지 정보 또는 스케일 정보의 이진화 데이터, 고주파 성분 정보, 색상 정보, 밝기 정보, 패턴 정보, 모션 정보, 또는 블랙 레벨 값 등)를 획득하고, 상기 획득한 부가 정보에 기반하여 입력 영상의 적어도 일부에 대응하는 출력 영상을 생성할 수 있다. 영상 처리 모듈(140)은, 예를 들면, 스케일 정보에 포함된 다운-스케일된 입력 영상을 업-스케일하고, 상기 업-스케일된 입력 영상 및 엣지 정보를 이용하여 출력 영상을 생성할 수 있다.
영상 처리 모듈(140)은 입출력 인터페이스(150)에 구비된 서로 다른 특성을 가지는 다수의 이미지 센서로부터 제공되는 다수의 이미지를 기반으로 새로운 이미지를 생성할 수 있다. 즉, 영상 처리 모듈(140)은 다수의 이미지 센서가 가지는 특성이 반영된 이미지로부터 그 특성에 관한 정보를 추출하고, 상기 추출한 정보를 사용하여 다른 특성을 가지는 이미지를 가공함으로써, 새로운 특성을 가지는 이미지를 생성할 수 있다.
도 1에서는 영상 처리 모듈(140)을 프로세서(120) 및 메모리(130)와 독립된 구성으로 나타내고 있지만, 다양한 실시 예들은 이에 한정되지 않는다. 영상 처리 모듈(140)은, 예를 들면, 프로세서(120)와 통합되어 (integrated with) 구현될 수 있고, 메모리(130)에 소프트웨어 형태로 저장되어 프로세서(120)에서 실행될 수 있는 형태로 구현될 수 있다. 또한, 영상 처리 모듈(140)은, 예를 들면, 프로세서(120) 및 메모리(130)에 분산되어 구현될 수 있다.
제 1 및 제 2 외부 전자 장치(102, 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 한 실시 예에 따르면, 서버(106)는 하나 또는 그 이상의 서버들의 그룹을 포함할 수 있다. 다양한 실시 예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 다른 하나 또는 복수의 전자 장치(예: 전자 장치(102,104), 또는 서버(106))에서 실행될 수 있다. 한 실시 예에 따르면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로 또는 요청에 의하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 추가로, 그와 연관된 적어도 일부 기능을 다른 장치(예: 전자 장치(102, 104), 또는 서버(106))에게 요청할 수 있다. 다른 전자 장치(예: 전자 장치(102, 104), 또는 서버(106))는 요청된 기능 또는 추가 기능을 실행하고, 그 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 수신된 결과를 그대로 또는 추가로 처리하여 요청된 기능이나 서비스를 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.
도 2는 다양한 실시 예에 따른 전자 장치(201)의 블록도이다.
도 2를 참조하면, 전자 장치(201)는, 예를 들면, 도 1에 도시된 전자 장치(101)의 전체 또는 일부를 포함할 수 있다. 전자 장치(201)는 하나 이상의 프로세서 (예: AP (application processor))(210), 통신 모듈(220), 가입자 식별 모듈(224), 메모리(230), 센서 모듈(240), 입력 장치(250), 디스플레이(260), 인터페이스(270), 오디오 모듈(280), 카메라 모듈(291), 전력 관리 모듈(295), 배터리(296), 인디케이터(297), 및 모터(298) 를 포함할 수 있다.
프로세서(210)는, 예를 들면, 운영 체제 또는 응용 프로그램을 구동하여 프로세서(210)에 연결된 다수의 하드웨어 또는 소프트웨어 구성요소들을 제어할 수 있고, 각종 데이터 처리 및 연산을 수행할 수 있다. 프로세서(210)는, 예를 들면, SoC (system on chip) 로 구현될 수 있다. 한 실시 예에 따르면, 프로세서(210)는 GPU (graphic processing unit) 및/또는 이미지 신호 프로세서 (image signal processor)를 더 포함할 수 있다. 프로세서(210)는 도 2에 도시된 구성요소들 중 적어도 일부 (예: 셀룰러 모듈(221))를 포함할 수도 있다. 프로세서(210) 는 다른 구성요소들 (예: 비휘발성 메모리) 중 적어도 하나로부터 수신된 명령 또는 데이터를 휘발성 메모리에 로드하여 처리하고, 다양한 데이터를 비휘발성 메모리에 저장할 수 있다.
통신 모듈(220)은, 도 1의 통신 인터페이스(170)와 동일 또는 유사한 구성을 가질 수 있다. 통신 모듈(220)은, 예를 들면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GPS 모듈(227), NFC 모듈(228) 및 RF (radio frequency) 모듈(229)를 포함할 수 있다.
셀룰러 모듈(221)은, 예를 들면, 통신망을 통해서 음성 통화, 영상 통화, 문자 서비스, 또는 인터넷 서비스 등을 제공할 수 있다. 한 실시 예에 따르면, 셀룰러 모듈(221)은 가입자 식별 모듈 (예: SIM 카드)(224)을 이용하여 통신 네트워크 내에서 전자 장치(201)의 구별 및 인증을 수행할 수 있다. 한 실시 예에 따르면, 셀룰러 모듈(221)은 프로세서(210)가 제공할 수 있는 기능 중 적어도 일부 기능을 수행할 수 있다. 한 실시 예에 따르면, 셀룰러 모듈(221)은 CP를 포함할 수 있다.
WiFi 모듈(223), 블루투스 모듈(225), GPS 모듈(227) 또는 NFC 모듈(228) 각각은, 예를 들면, 해당하는 모듈을 통해서 송/수신되는 데이터를 처리하기 위한 프로세서를 포함할 수 있다. 어떤 실시 예에 따르면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GPS 모듈(227) 또는 NFC 모듈(228) 중 적어도 일부 (예: 두 개 이상)는 하나의 integrated chip(IC) 또는 IC 패키지 내에 포함될 수 있다.
RF 모듈(229)은, 예를 들면, 통신 신호 (예: RF 신호)를 송수신할 수 있다. RF 모듈(229)은, 예를 들면, 트랜시버 (transceiver), PAM (power amp module), 주파수 필터 (frequency filter), LNA (low noise amplifier), 또는 안테나 등을 포함할 수 있다. 다른 실시 예에 따르면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GPS 모듈(227) 또는 NFC 모듈(228) 중 적어도 하나는 별개의 RF 모듈을 통하여 RF 신호를 송수신할 수 있다.
가입자 식별 모듈(224)은, 예를 들면, 가입자 식별 모듈을 포함하는 카드 및/또는 내장 SIM (embedded SIM)을 포함할 수 있으며, 고유한 식별 정보 (예: ICCID (integrated circuit card identifier)) 또는 가입자 정보 (예: IMSI (international mobile subscriber identity))를 포함할 수 있다.
메모리(230) (예: 메모리(130))는, 예를 들면, 내장 메모리(232) 또는 외장 메모리(234)를 포함할 수 있다. 내장 메모리(232)는, 예를 들면, 휘발성 메모리 (예: DRAM (dynamic RAM), SRAM (static RAM), 또는 SDRAM (synchronous dynamic RAM) 등), 비휘발성 메모리 (non-volatile Memory) (예: OTPROM(one time programmable ROM), PROM (programmable ROM), EPROM (erasable and programmable ROM), EEPROM (electrically erasable and programmable ROM), mask ROM, flash ROM, 플래시 메모리 (예: NAND flash 또는 NOR flash 등), 하드 드라이브, 또는 솔리드 스테이트 드라이브 (solid state drive(SSD)) 중 적어도 하나를 포함할 수 있다.
외장 메모리(234)는 플래시 드라이브 (flash drive), 예를 들면, CF (compact flash), SD (secure digital), Micro-SD (micro secure digital), Mini-SD (mini secure digital), xD (extreme digital), MMC (multi-media card) 또는 메모리 스틱 (memory stick) 등을 더 포함할 수 있다. 외장 메모리(234)는 다양한 인터페이스를 통하여 전자 장치(201)와 기능적 및/또는 물리적으로 연결될 수 있다.
센서 모듈(240)은, 예를 들면, 물리량을 계측하거나 전자 장치(201)의 작동 상태를 감지하여, 계측 또는 감지된 정보를 전기 신호로 변환할 수 있다. 센서 모듈(240)은, 예를 들면, 제스처 센서(240A), 자이로 센서(240B), 기압 센서(240C), 마그네틱 센서(240D), 가속도 센서(240E), 그립 센서(240F), 근접 센서(240G), 컬러 센서(240H) (예: RGB (red, green, blue) 센서), 생체 센서(240I), 온/습도 센서(240J), 조도 센서(240K), 또는 UV (ultra violet) 센서(240M) 중에서 적어도 하나를 포함할 수 있다. 추가적으로 또는 대체적으로 (additionally or alternatively), 센서 모듈(240)은, 예를 들면, 후각 센서 (E-nose sensor), EMG 센서 (electromyography sensor), EEG 센서 (electroencephalogram sensor), ECG 센서 (electrocardiogram sensor), IR (infrared) 센서, 홍채 센서 및/또는 지문 센서를 포함할 수 있다. 센서 모듈(240)은 그 안에 속한 적어도 하나 이상의 센서를 제어하기 위한 제어 회로를 더 포함할 수 있다. 어떤 실시 예에서, 전자 장치(201)는 프로세서(210)의 일부 또는 별도로, 센서 모듈(240)을 제어하도록 구성된 프로세서를 더 포함하여, 프로세서(210)가 슬립(sleep) 상태에 있는 동안, 센서 모듈(240)을 제어할 수 있다.
입력 장치(250)는, 예를 들면, 터치 패널 (touch panel)(252), (디지털) 펜 센서 (pen sensor)(254), 키(256), 또는 초음파 (ultrasonic) 입력 장치(258)를 포함할 수 있다. 터치 패널(252)은, 예를 들면, 정전식, 감압식, 적외선 방식, 또는 초음파 방식 중 적어도 하나의 방식을 사용할 수 있다. 또한, 터치 패널(252)은 제어 회로를 더 포함할 수도 있다. 터치 패널(252)은 택타일 레이어 (tactile layer)를 더 포함하여, 사용자에게 촉각 반응을 제공할 수 있다.
(디지털) 펜 센서(254)는, 예를 들면, 터치 패널의 일부이거나, 별도의 인식용 쉬트 (sheet)를 포함할 수 있다. 키(256)는, 예를 들면, 물리적인 버튼, 광학식 키, 또는 키 패드를 포함할 수 있다. 초음파 입력 장치(258)는 마이크(288)를 통해, 입력 도구에서 발생된 초음파를 감지하여, 상기 감지된 초음파에 대응하는 데이터를 확인할 수 있다.
디스플레이(260)는 패널(262), 홀로그램 장치(264), 또는 프로젝터(266)를 포함할 수 있다.
패널(262)은, 도 1의 디스플레이(160)와 동일 또는 유사한 구성을 포함할 수 있다. 패널(262)은, 예를 들면, 유연하게 (flexible), 투명하게 (transparent), 또는 착용할 수 있게 (wearable) 구현될 수 있다. 패널(262)은 터치 패널(252)과 하나의 모듈로 구성될 수도 있다.
한 실시 예에 따르면, 패널(262)은 적어도 하나의 센서를 포함할 수 있다. 예컨대, 패널(262)은 압력 센서 (또는 포스 센서 (interchangeably used hereinafter))를 포함할 수 있다. 상기 압력 센서는 사용자의 터치에 대한 압력의 세기를 측정할 수 있는 센서일 수 있다. 상기 압력 센서는 상기 터치 패널(252)와 일체형으로 구현되거나, 또는 상기 터치 패널(252)과 별도로 하나 이상의 센서로 구현될 수도 있다.
홀로그램 장치(264)는 빛의 간섭을 이용하여 입체 영상을 허공에 보여줄 수 있다. 프로젝터(266)는 스크린에 빛을 투사하여 영상을 표시할 수 있다. 스크린은, 예를 들면, 전자 장치(201)의 내부 또는 외부에 위치할 수 있다. 한 실시 예에 따르면, 디스플레이(260)는 패널(262), 홀로그램 장치(264), 또는 프로젝터(266)를 제어하기 위한 제어 회로를 더 포함할 수 있다.
인터페이스(270)는, 예를 들면, HDMI (high-definition multimedia interface)(272), USB (universal serial bus)(274), 광 인터페이스 (optical interface)(276), 또는 D-sub (D-subminiature)(278)를 포함할 수 있다. 인터페이스(270)는, 예를 들면, 도 1에 도시된 통신 인터페이스(170)에 포함될 수 있다. 추가적으로 또는 대체적으로, 인터페이스(270)는, 예를 들면, MHL (mobile high-definition link) 인터페이스, SD (secure digital) 카드/MMC (multi-media card) 인터페이스, 또는 IrDA (infrared data association) 규격 인터페이스를 포함할 수 있다.
오디오 모듈(280)은, 예를 들면, 소리와 전기 신호를 쌍방향으로 변환시킬 수 있다. 오디오 모듈(280)의 적어도 일부 구성요소는, 예를 들면, 도 1 에 도시된 입출력 인터페이스(150)에 포함될 수 있다. 오디오 모듈(280)은, 예를 들면, 스피커(282), 리시버(284), 이어폰(286), 또는 마이크(288) 등을 통해 입력 또는 출력되는 소리 정보를 처리할 수 있다.
카메라 모듈(291)은, 예를 들면, 정지 영상 및 동영상을 촬영할 수 있는 장치로서, 한 실시 예에 따르면, 하나 이상의 이미지 센서 (예: 전면 센서 또는 후면 센서), 렌즈, ISP (image signal processor), 또는 플래시 (flash) (예: LED 또는 xenon lamp 등) 등을 포함할 수 있다. 즉, 카메라 모듈(291)은 서로 다른 특성을 가지는 다수의 이미지 센서들을 포함할 수 있다. 상기 서로 다른 특성은 촬영된 이미지의 특성을 결정하는 요건으로써, 이미지의 종류 (흑백, 컬러 등), 해상도, 화각 등에 관한 특성이 될 수 있다.
예컨대, 카메라 모듈(291)은 서로 다른 해상도를 지원하는 이미지 센서들의 조합에 의해 구성될 수 있다. 즉, 카메라 모듈(291)에 포함된 이미지 센서들의 조합을 높은 해상도 (고 해상도)를 가지는 이미지 센서와 낮은 해상도 (저 해상도)를 가지는 이미지 센서로 구성하거나 또는 흑백 이미지를 얻기 위한 이미지 센서와 컬러 이미지를 얻기 위한 이미지 센서로 구성하거나 또는 넓은 화각을 가지는 이미지 센서와 좁은 화각을 가지는 이미지 센서로 구성할 수도 있다. 그뿐만 아니라 다수의 특성을 고려하여 이미지 센서의 조합을 구성할 수도 있다. 즉, 상대적으로 높은 해상도를 가지는 흑백 이미지를 얻을 수 있는 흑백 (BW) 이미지 센서와, 상대적으로 낮은 해상도를 가지는 컬러 이미지를 얻을 수 있는 컬러 이미지 센서의 조합에 의해 구성할 수 있다.
카메라 모듈(291)은 다수의 이미지 센서별로 촬영을 위한 조건을 달리 설정할 수 있다. 예컨대, 촬영을 위한 조건은 노출 값, 셔터 스피드, 조리개 값, 화이트 밸런스, 감도 등이 될 수 있다. 다수의 이미지 센서들은 설정된 촬영 조건에 따라 다른 결과물의 이미지를 생성할 수 있다.
전력 관리 모듈(295)은, 예를 들면, 전자 장치(201)의 전력을 관리할 수 있다. 한 실시 예에 따르면, 전력 관리 모듈(295)은 PMIC (power management integrated circuit), 충전 IC (charger integrated circuit), 또는 배터리(296) 또는 연료 게이지 (battery or fuel gauge) 등을 포함할 수 있다. PMIC는, 유선 및/또는 무선 충전 방식을 가질 수 있다. 무선 충전 방식은, 예를 들면, 자기공명 방식, 자기유도 방식 또는 전자기파 방식 등을 포함하며, 무선 충전을 위한 부가적인 회로, 예를 들면, 코일 루프, 공진 회로, 또는 정류기 등을 더 포함할 수 있다. 배터리 게이지는, 예를 들면, 배터리(296)의 잔량, 충전 중 전압, 전류, 또는 온도를 측정할 수 있다. 배터리(296)는, 예를 들면, 충전식 전지 (rechargeable battery) 및/또는 태양 전지 (solar battery)를 포함할 수 있다.
인디케이터(297)는 전자 장치(201) 또는 그 일부 (예: 프로세서(210))의 특정 상태, 예를 들면, 부팅 상태, 메시지 상태 또는 충전 상태 등을 표시할 수 있다. 모터(298)는 전기적 신호를 기계적 진동으로 변환할 수 있고, 진동 (vibration), 또는 햅틱 (haptic) 효과 등을 발생시킬 수 있다. 도시되지는 않았으나, 전자 장치(201)는 모바일 TV 지원을 위한 처리 장치 (예: GPU)를 포함할 수 있다. 모바일 TV 지원을 위한 처리 장치는, 예를 들면, DMB (digital multimedia broadcasting), DVB (digital video broadcasting), 또는 미디어플로 (mediaFloTM) 등의 규격에 따른 미디어 데이터를 처리할 수 있다.
본 문서에서 기술된 구성요소들 각각은 하나 또는 그 이상의 부품 (component)으로 구성될 수 있으며, 해당 구성요소의 명칭은 전자 장치의 종류에 따라서 달라질 수 있다. 다양한 실시 예에서, 전자 장치는 본 문서에서 기술된 구성요소 중 적어도 하나를 포함하여 구성될 수 있으며, 일부 구성요소가 생략되거나 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 또한, 다양한 실시 예에 따른 전자 장치의 구성요소들 중 일부가 결합되어 하나의 개체 (entity)로 구성됨으로써, 결합되기 이전의 해당 구성요소들의 기능을 동일하게 수행할 수 있다.
도 3은 다양한 실시 예에 따른 프로그램 모듈의 블록도이다.
도 3을 참조하면, 프로그램 모듈(310) (예: 프로그램(180))은 전자 장치에 관련된 자원을 제어하는 운영 체제 (operating system(OS)) 및/또는 운영 체제 상에서 구동되는 다양한 애플리케이션 (예: 애플리케이션 프로그램(187))을 포함할 수 있다. 운영 체제는, 예를 들면, 안드로이드 (android), iOS, 윈도우 (windows), 심비안 (symbian), 타이젠 (tizen), 또는 바다 (bada) 등이 될 수 있다.
프로그램 모듈(310)은 커널(320), 미들웨어(330), 애플리케이션 프로그래밍 인터페이스 (application programming interface (API))(360), 및/또는 애플리케이션(370)을 포함할 수 있다. 프로그램 모듈(310)의 적어도 일부는 전자 장치상에 프리로드 (preload) 되거나, 외부 전자 장치 (예: 전자 장치(102, 104), 서버(106) 등)로부터 다운로드 가능하다.
상기 프로그램 모듈(310)에 포함된 커널(320), 미들웨어(330), API(360) 및 애플리케이션 (370) 각각의 예로써, 도 1의 프로그램(180)에 포함된 커널(181), 미들웨어(183), API(185) 및 애플리케이션(187)이 될 수 있다.
커널(320)은, 예를 들면, 시스템 리소스 매니저(321) 및/또는 디바이스 드라이버(323)를 포함할 수 있다. 시스템 리소스 매니저(321)는 시스템 리소스의 제어, 할당, 또는 회수 등을 수행할 수 있다. 한 실시 예에 따르면, 시스템 리소스 매니저(321)는 프로세스 관리부, 메모리 관리부, 또는 파일 시스템 관리부 등을 포함할 수 있다. 디바이스 드라이버(323)는, 예를 들면, 디스플레이 드라이버, 카메라 드라이버, 블루투스 드라이버, 공유 메모리 드라이버, USB 드라이버, 키패드 드라이버, WiFi 드라이버, 오디오 드라이버, 또는 IPC (inter-process communication) 드라이버 등을 포함할 수 있다.
미들웨어(330)는, 예를 들면, 애플리케이션(370)이 공통적으로 필요로 하는 기능을 제공하거나, 애플리케이션(370)이 전자 장치 내부의 제한된 시스템 자원을 효율적으로 사용할 수 있도록 API(360)를 통해 다양한 기능들을 애플리케이션(370)으로 제공할 수 있다. 한 실시 예에 따르면, 미들웨어(330)는 런타임 라이브러리(335), 애플리케이션 매니저 (application manager)(341), 윈도우 매니저 (window manager)(342), 멀티미디어 매니저 (multimedia manager)(343), 리소스 매니저 (resource manager)(344), 파워 매니저 (power manager)(345), 데이터베이스 매니저 (database manager)(346), 패키지 매니저 (package manager)(347), 연결 매니저 (connectivity manager)(348), 통지 매니저 (notification manager)(349), 위치 매니저 (location manager)(350), 그래픽 매니저 (graphic manager)(351), 또는 보안 매니저 (security manager)(352) 중 적어도 하나를 포함할 수 있다.
런타임 라이브러리(335)는, 예를 들면, 애플리케이션(370)이 실행되는 동안에 프로그래밍 언어를 통해 새로운 기능을 추가하기 위해 컴파일러가 사용하는 라이브러리 모듈을 포함할 수 있다. 런타임 라이브러리(335)는 입출력 관리, 메모리 관리, 또는 산술 함수에 대한 기능 등을 수행할 수 있다.
애플리케이션 매니저(341)는, 예를 들면, 애플리케이션(370) 중 적어도 하나의 애플리케이션의 생명 주기를 관리할 수 있다. 윈도우 매니저(342)는 화면에서 사용하는 GUI 자원을 관리할 수 있다. 멀티미디어 매니저(343)는 다양한 미디어 파일들의 재생에 필요한 포맷을 파악하고, 해당 포맷에 맞는 코덱을 이용하여 미디어 파일의 인코딩 또는 디코딩을 수행할 수 있다. 리소스 매니저(344)는 애플리케이션(370) 중 적어도 어느 하나의 애플리케이션의 소스 코드, 메모리 또는 저장 공간 등의 자원을 관리할 수 있다.
파워 매니저(345)는, 예를 들면, 바이오스 (BIOS: basic input/output system) 등과 함께 동작하여 배터리 또는 전원을 관리하고, 전자 장치의 동작에 필요한 전력 정보 등을 제공할 수 있다. 데이터베이스 매니저(346)는 애플리케이션(370) 중 적어도 하나의 애플리케이션에서 사용할 데이터베이스를 생성, 검색, 또는 변경할 수 있다. 패키지 매니저(347)는 패키지 파일의 형태로 배포되는 애플리케이션의 설치 또는 업데이트를 관리할 수 있다.
연결 매니저(348)는, 예를 들면, WiFi 또는 블루투스 등의 무선 연결을 관리할 수 있다. 통지 매니저(349)는 도착 메시지, 약속, 근접성 알림 등의 사건 (event)을 사용자에게 방해되지 않는 방식으로 표시 또는 통지할 수 있다. 위치 매니저(350)는 전자 장치의 위치 정보를 관리할 수 있다. 그래픽 매니저(351)는 사용자에게 제공될 그래픽 효과 또는 이와 관련된 사용자 인터페이스를 관리할 수 있다. 보안 매니저(352)는 시스템 보안 또는 사용자 인증 등에 필요한 제반 보안 기능을 제공할 수 있다. 한 실시 예에 따르면, 전자 장치가 전화 기능을 포함한 경우, 미들웨어(330)는 전자 장치의 음성 또는 영상 통화 기능을 관리하기 위한 통화 매니저 (telephony manager)를 더 포함할 수 있다.
미들웨어(330)는 전술한 구성요소들의 다양한 기능의 조합을 형성하는 미들웨어 모듈을 포함할 수 있다. 미들웨어(330)는 차별화된 기능을 제공하기 위해 운영 체제의 종류별로 특화된 모듈을 제공할 수 있다. 또한, 미들웨어(330)는 동적으로 기존의 구성요소를 일부 삭제하거나 새로운 구성요소들을 추가할 수 있다.
API(360)는, 예를 들면, API 프로그래밍 함수들의 집합으로, 운영 체제에 따라 다른 구성으로 제공될 수 있다. 예를 들면, 안드로이드 또는 iOS의 경우, 플랫폼별로 하나의 API 셋을 제공할 수 있으며, 타이젠의 경우, 플랫폼별로 두 개 이상의 API 셋을 제공할 수 있다.
애플리케이션(370)은, 예를 들면, 홈(371), 다이얼러(372), SMS/MMS(373), IM(instant message)(374), 브라우저(375), 카메라(376), 알람(377), 컨택트(378), 음성 다이얼(379), 이메일(380), 달력(381), 미디어 플레이어(382), 앨범(383), 또는 시계(384) 등의 기능을 수행할 수 있는 하나 이상의 애플리케이션을 포함할 수 있다. 상기 애플리케이션(370)은 건강관리 (health care) (예: 운동량 또는 혈당 등을 측정), 또는 환경 정보 제공 (예: 기압, 습도, 또는 온도 정보 등을 제공) 등의 기능을 수행할 수 있는 애플리케이션을 포함할 수도 있다.
한 실시 예에 따르면, 애플리케이션(370)은 전자 장치 (예: 전자 장치(101))와 외부 전자 장치 사이의 정보 교환을 지원하는 애플리케이션 (이하, 설명의 편의 상, "정보 교환 애플리케이션"이라 칭함)을 포함할 수 있다. 정보 교환 애플리케이션은, 예를 들면, 외부 전자 장치에 특정 정보를 전달하기 위한 알림 전달 (notification relay) 애플리케이션, 또는 외부 전자 장치를 관리하기 위한 장치 관리 (device management) 애플리케이션을 포함할 수 있다.
예를 들면, 알림 전달 애플리케이션은 전자 장치의 다른 애플리케이션 (예: SMS/MMS 애플리케이션, 이메일 애플리케이션, 건강 관리 애플리케이션, 또는 환경 정보 애플리케이션 등)에서 발생된 알림 정보를 외부 전자 장치로 전달하는 기능을 포함할 수 있다. 또한, 알림 전달 애플리케이션은, 예를 들면, 외부 전자 장치로부터 알림 정보를 수신하여 사용자에게 제공할 수 있다.
장치 관리 애플리케이션은, 예를 들면, 전자 장치와 통신하는 외부 전자 장치의 적어도 하나의 기능 (예: 외부 전자 장치 자체 (또는, 일부 구성 부품)의 턴-온/턴-오프 또는 디스플레이의 밝기 (또는, 해상도) 조절), 외부 전자 장치에서 동작하는 애플리케이션 또는 외부 전자 장치에서 제공되는 서비스 (예: 통화 서비스 또는 메시지 서비스 등)를 관리 (예: 설치, 삭제, 또는 업데이트)할 수 있다.
한 실시 예에 따르면, 애플리케이션(370)은 외부 전자 장치의 속성에 따라 지정된 애플리케이션 (예: 모바일 의료 기기의 건강 관리 애플리케이션 등)을 포함할 수 있다. 한 실시 예에 따르면, 애플리케이션(370)은 외부 전자 장치로부터 수신된 애플리케이션을 포함할 수 있다. 한 실시 예에 따르면, 애플리케이션(370)은 프리로드 애플리케이션 (preloaded application) 또는 서버로부터 다운로드 가능한 제3자 애플리케이션 (third party application)을 포함할 수 있다. 도시된 실시 예에 따른 프로그램 모듈(310)의 구성요소들의 명칭은 운영 체제의 종류에 따라서 달라질 수 있다.
다양한 실시 예에 따르면, 프로그램 모듈(310)의 적어도 일부는 소프트웨어, 펌웨어, 하드웨어, 또는 이들 중 적어도 둘 이상의 조합으로 구현될 수 있다. 프로그램 모듈(310)의 적어도 일부는, 예를 들면, 프로세서 (예: 프로세서(210))에 의해 구현 (implement)(예: 실행)될 수 있다. 프로그램 모듈(310)의 적어도 일부는 하나 이상의 기능을 수행하기 위한, 예를 들면, 모듈, 프로그램, 루틴, 명령어 세트 (sets of instructions) 또는 프로세스 등을 포함할 수 있다.
본 문서에서 사용된 용어 "모듈"은, 예를 들면, 하드웨어, 소프트웨어 또는 펌웨어 (firmware) 중 하나 또는 둘 이상의 조합을 포함하는 단위를 의미할 수 있다. "모듈"은, 예를 들면, 유닛, 로직, 논리 블록, 부품, 또는 회로 등의 용어와 바꾸어 사용 (interchangeably use)될 수 있다. "모듈"은, 일체로 구성된 부품의 최소 단위 또는 그 일부가 될 수 있다. "모듈"은 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수도 있다. "모듈"은 기계적으로 또는 전자적으로 구현될 수 있다. 예를 들면, "모듈"은, 알려졌거나 앞으로 개발될, 어떤 동작들을 수행하는 ASIC (application-specific integrated circuit) 칩, FPGAs (field-programmable gate arrays) 또는 프로그램 가능 논리 장치 (programmable-logic device) 중 적어도 하나를 포함할 수 있다.
다양한 실시 예에 따른 장치 (예: 모듈들 또는 그 기능들) 또는 방법 (예: 동작들)의 적어도 일부는, 예컨대, 프로그램 모듈의 형태로 컴퓨터로 읽을 수 있는 저장매체 (computer-readable storage media)에 저장된 명령어로 구현될 수 있다. 상기 명령어가 프로세서 (예: 프로세서(120))에 의해 실행될 경우, 상기 하나 이상의 프로세서가 상기 명령어에 해당하는 기능을 수행할 수 있다. 컴퓨터로 읽을 수 있는 저장매체는, 예를 들면, 메모리(130)가 될 수 있다.
컴퓨터로 판독 가능한 기록 매체는, 하드디스크, 플로피디스크, 마그네틱 매체 (magnetic media)(예: 자기테이프), 광기록 매체 (optical media)(예: CD-ROM(compact disc read only memory), DVD (digital versatile disc), 자기-광 매체 (magneto-optical media)(예: 플롭티컬 디스크 (floptical disk)), 하드웨어 장치 (예: ROM(read only memory), RAM (random access memory), 또는 플래시 메모리 등) 등을 포함할 수 있다. 또한, 프로그램 명령에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함할 수 있다. 상술한 하드웨어 장치는 다양한 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지다.
다양한 실시 예에 따른 모듈 또는 프로그램 모듈은 전술한 구성요소들 중 적어도 하나 이상을 포함하거나, 일부가 생략되거나, 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 다양한 실시 예에 따른 모듈, 프로그램 모듈 또는 다른 구성요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱 (heuristic)한 방법으로 실행될 수 있다. 또한, 일부 동작은 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다. 그리고 본 문서에 개시된 실시 예는 기술 내용의 설명 및 이해를 위해 제시된 것이며, 본 문서에서 기재된 기술의 범위를 한정하는 것은 아니다. 따라서, 본 문서의 범위는, 본 문서의 기술적 사상에 근거한 모든 변경 또는 다양한 다른 실시 예를 포함하는 것으로 해석되어야 한다.
도 4는 제안된 다양한 실시 예에 따른, 이미지 처리장치의 구성에 대한 일 예를 도시한 도면이다.
도 4를 참조하면, 이미지 처리장치는 하나의 렌즈(410), 분배부(420), 제1 및 제2 센서(430, 440) 및 프로세서(450)를 포함할 수 있다. 상기 프로세서(450)는 이미지 처리부(452)와 센서 구동부(454)를 포함할 수 있다. 도면에서는 이미지 처리부(452)와 센서 구동부(454)가 프로세서(450)에 포함되는 구성으로 도시되고 있으나, 프로세서(450)와 별도의 독립적인 구성이 될 수도 있다. 그리고 도면에서는 두 개의 센서를 구비한 예를 도시하고 있으나 그 이상의 센서들에 의한 구현도 가능할 수 있다. 그리고 하나의 렌즈를 추가하고, 상기 추가된 렌즈에 대응하여서도 다수의 센서들을 배치할 수 있다.
상기 렌즈(410)는 피사체로부터 반사된 빛을 굴절시켜 투명 유리체로써, 텔레비전 카메라나 필름 카메라, 사진 카메라 등 그 종류를 막론하고 카메라 몸체 앞 부분에 원통 모양으로 부착될 수 있다. 상기 렌즈(410)는 모양과 크기가 달라도 카메라의 눈으로서 피사체 모습을 재현하는 동일한 기능을 수행하는 것이 일반적이다.
상기 렌즈(410)는 그 기능에 따라 여러 종류로 구분될 수 있다. 예컨대, 초점 거리에 따라 광각 렌즈와 표준 렌즈, 망원렌즈 및 줌 렌즈 등으로 구분될 수 있다. 또한, 상기 렌즈(410)는 밝기 또는 속도 등의 특성에 따라 구분될 수도 있다. 예컨대, 상기 렌즈의 밝기 또는 속도는 최소 조리개 값 (f)과 관련된 렌즈(410)의 특성이 될 수 있다. 상기 렌즈(410)의 밝기는 최소 조리개 값 (f) (최대 조리개 개방)을 의미한다.
상기 렌즈(410)의 최대 조리개 개방 값이 클수록 (최소 조리개 f 값이 작을수록), 단위 시간당 더 많은 빛을 통과시킬 수 있다 (렌즈가 밝다). 상기 렌즈(410)가 밝을수록 빠른 셔터 스피드를 확보할 수 있어, 어두운 촬영 환경 (수광량이 적은 환경)에서도 좀더 밝은 이미지를 얻을 수 있다.
상기 분배부(420)는 상기 렌즈(410)를 통해 굴절된 빛을 소정 개수의 경로로 분배할 수 있다. 예컨대, 거울 등의 매체를 이용하여 상기 렌즈(410)를 통해 굴절된 빛을 두 개의 경로들 각각으로 반사함으로써, 원하는 곳으로 동일한 빛을 전달할 수 있다.
제1 센서(430)와 제2 센서(440)는 상기 분배부(420)를 통해 공급되는 빛을 검지하고, 상기 검지한 빛을 기반으로 전기적인 이미지 신호 (이미지 프레임)를 생성할 수 있다. 상기 제1 센서(430)와 상기 제2 센서(440)를 구성하는 소자는, 금속산화물반도체 (MOS), 전하결합소자 (CCD), 또는 상보성 금속산화물반도체 (CMOS) 등을 포함할 수 있다. 그리고 상기 제1 센서(430)와 제2 센서(440)는 전기적 이미지 신호에 의해 표현되는 이미지의 종류에 따라, 흑백 이미지 센서와 컬러 이미지 센서로 구분할 수 있다. 일반적으로 센서에서 데이터 프레임을 높일 수 없는 대표적인 이유는, 센서의 수광량이 제한적이기 때문이다. 그 외에, 아날로그-디지털 변환 소자의 개수, MIPI (mobile industry processor interface)의 대역폭 (bandwidth) 등의 제한으로 인한 것은 추후 이미지 센서를 제작 시에 해결 가능한 이슈가 될 수 있다.
상기 제1 센서(430)와 상기 제2 센서(440)는 구성하는 소자 등에 의해 서로 다른 특성을 가질 수 있다. 상기 특성은 촬영된 이미지의 성질 등을 결정하는 요건으로써, 이미지의 종류 (흑백, 컬러 등), 해상도, 화각 등에 관한 특성이 될 수 있다.
예컨대, 상기 제1 센서(430)와 상기 제2 센서(440)는 서로 다른 해상도를 지원할 수 있다. 즉, 상기 제1 센서(430)는 높은 해상도 (고 해상도)를 지원하고, 상기 제2 센서(440)는 낮은 해상도 (저 해상도)를 지원할 수 있다. 또한, 상기 제1 센서(430)는 검지한 빛을 기반으로 흑백 이미지를 생성하고, 상기 제2 센서(440)는 검지한 빛을 기반으로 컬러 이미지를 생성할 수 있다. 상기 제1 센서(430)와 상기 제2 센서(440)는 서로 다른 화각에 의한 이미지를 생성할 수도 있다. 그뿐만 아니라 상기 제1 센서(430) 및/또는 상기 제2 센서(440)는 다수의 특성에 있어서 차이가 있을 수 있다. 즉, 제1 센서(430)는 상대적으로 높은 해상도를 가지는 흑백 이미지를 얻을 수 있는 흑백 (BW) 이미지 센서일 수 있고, 상기 제2 센서(440)은 상대적으로 낮은 해상도를 가지는 컬러 이미지를 얻을 수 있는 컬러 이미지 센서일 수 있다.
예컨대, 동일한 촬영 환경 (동일한 수광 량 공급)을 가정할 때, 흑백 이미지 센서는 컬러 이미지 센서에 비해 상대적으로 높은 프레임 레이트 (fps; frame per second)를 제공할 수 있다. 즉, 동일한 촬영 환경에서 동일 시간동안에 획득되는 이미지 프레임은 컬러 이미지 센서보다 흑백 이미지 센서에 의해 더 많이 획득할 수 있다. 이에 반해, 흑백 이미지 센서에 의해 획득된 흑백 이미지는 컬러 이미지 센서에 의해 획득된 컬러 이미지에 비해 상대적으로 작은 데이터 량을 가진다.
상기 제1 센서(430)와 상기 제2 센서(440)에 대해서는 독립적인 촬영 조건이 설정될 수 있다. 예컨대, 상기 제1 센서(430)와 상기 제2 센서(440)에 대한 노출 값, 셔터 스피드 (exposure time), 센서 감도 (ISO 특성 값), 조리개 값 등을 다르게 설정할 수 있다. 이런 경우, 제1 센서(430)로부터 얻게 되는 이미지와 제2 센서(440)로부터 얻게 되는 이미지의 특성은 다를 수 있다.
이를 활용하면, 서로 다른 촬영 조건이 설정된 제1 센서(430)와 제2 센서(440)에 의해 동일 시간동안 낮은 해상도를 가지는 다수의 컬러 이미지와 높은 해상도를 가지는 흑백 이미지를 획득할 수 있다. 즉, 하나의 흑백 이미지의 리드 타임 (read time) 동안 다수의 촬영 조건에 의한 다수의 컬러 이미지를 촬영할 수 있다.
일 예로 극 저조도 환경에서 촬영하는 경우, 컬러 이미지 센서 (예컨대, 제2 이미지 센서(440))를 오프하고, 흑백 이미지 센서 (예컨대, 제1 이미지 센서(430))만으로 촬영을 시도할 수 있다. 이 경우, 흑백 이미지 센서 (예컨대, 제1 이미지 센서(430))에 의해 출력되는 다수의 흑백 이미지들을 합성하여 하나의 흑백 이미지가 생성될 수 있다.
상기 프로세서(450)는 수광량으로 인해 높은 프레임 레이트를 얻지 못하는 문제를 해결하기 위한 방안과, 이를 처리하기 위한 많은 연산량을 해결하기 위한 방안을 마련하고 있다.
상기 프로세서(450)는 상기 제1 센서(430)와 상기 제2 센서(440) 각각에 대해 독립적인 촬영 조건을 설정하고, 상기 제1 센서(430)와 상기 제2 센서(440)로부터 제공되는 이미지 프레임들을 이용한 컬러 합성, 영상 합성 등을 포함한 영상 정합을 수행할 수 있다.
상기 프로세서(450)를 구성하는 센서 구동부(454)는 상기 제1 센서(430)와 상기 제2 센서(440) 각각의 구동을 제어할 수 있다. 즉, 상기 센서 구동부(454)는 제1 센서(430)와 상기 제2 센서(440) 모두를 온 또는 오프 시키거나 제1 센서(430)와 상기 제2 센서(440) 중 하나만을 온 시킬 수도 있다. 상기 센서 구동부(454)는 상기 제2 센서(430)와 상기 제2 센서(440) 각각에 대한 독립적인 촬영 조건을 설정하기 위해, 상기 제2 센서(430)와 상기 제2 센서(440) 별로 노출 값, 셔터 스피드, 센서 감도 (ISO 특성 값), 조리개 값 등을 설정할 수 있다.
예컨대, 상기 센서 구동부(454)는 저조도 환경에서 제1 센서(430)와 제2 센서(450)에 대한 카메라 설정 값 (노출 등의 촬영 조건)을 다르게 설정할 수 있다. 이를 기반으로 상기 이미지 처리부(452)는 다른 특성을 가지는 이미지들을 얻을 수 있으며, 상기 얻어진 다른 특성을 가지는 이미지들을 합성함으로써, 저조도 환경에서도 밝고 깨끗한 이미지를 획득할 수 있다. 이 경우, 상기 이미지 처리부(452)는 이미지 합성 시, 흑백 이미지가 가지는 넓은 동작 범위 (dynamic range, DR)와 컬러 이미지가 가지는 DR 및 색 재현 특성을 이용할 수 있다.
상기 센서 구동부(454)는 극 저조도 환경에서 컬러 이미지 센서인 제2 센서(440)를 오프 시키고, 흑백 이미지 센서인 제1 센서(430)를 온 시킬 수 있다. 이런 경우, 상기 이미지 처리부(452)는 제1 센서(430)에 의해 촬영된 흑백 이미지들을 합성하여 새로운 이미지를 생성할 수도 있다. 상기 제1 센서(430)는 흑백 이미지들 각각을 서로 다른 설정에 의해 촬영할 수 있다. 이를 위해, 상기 센서 구동부(454)는 센서별로 다수의 촬영 조건을 설정할 수도 있다.
상기 프로세서(450)를 구성하는 이미지 처리부(454)는 상기 제1 센서(430)로부터 제공되는 제1 이미지 프레임들과, 상기 제2 센서(440)로부터 제공되는 제2 이미지 프레임들을 사용하여 FRC 연산을 수행할 수 있다. 예컨대, 상기 FRC 연산은 복제 프레임 (duplicating frame)에 의한 방안과, 움직임 보상 (motion compensation)에 의한 방안 등이 있을 수 있다.
예컨대, 상기 이미지 처리부(452)는 제1 센서(430)로부터 상대적으로 높은 데이터 레이트를 가지는 흑백 이미지 프레임들 (소스 흑백 이미지 프레임들)을 획득하고, 제2 센서(440)로부터 상대적으로 낮은 데이터 레이트를 가지는 컬러 이미지 프레임들을 획득할 수 있다. 상기 이미지 처리부(452)는 흑백 이미지 프레임들로부터 복제 흑백 이미지 프레임들 (또는 확장 흑백 이미지 프레임들)을 구성할 수 있다. 상기 이미지 처리부(452)는 소스 흑백 이미지 프레임들, 확장 흑백 이미지 프레임들 및 컬러 이미지 프레임들을 기반으로 영상 정합을 수행할 수 있다. 상기 영상 정합은 컬러 합성, 영상 합성 등을 포함할 수 있다.
예컨대, 상기 컬러 합성은 컬러 이미지 프레임들로부터 획득한 컬러 정보를 사용하여 소스 흑백 이미지 프레임들과 확장 흑백 이미지 프레임들을 대상으로 컬러 디퓨징을 수행할 수 있다. 상기 컬러 디퓨징은 소스 흑백 이미지 프레임들과 확장 흑백 이미지 프레임들에 획득한 컬러 정보를 확산시키는 것에 의해 이루어질 수 있다.
예컨대, 상기 영상 합성은 소스 흑백 이미지 프레임들과 확장 흑백 이미지 프레임들로부터 획득한 휘도 정보를 컬러 이미지 프레임들에 적용하는 것에 의해 수행될 수 있다.
상기 컬러 합성 또는 상기 영상 합성에 의해서는 데이터 레이트를 변환한 컬러 이미지 프레임들, 즉 해상도가 향상된 컬러 이미지 프레임들을 출력 이미지로 얻을 수 있다.
상기 흑백 이미지 프레임들 (소스 흑백 이미지 프레임들)을 사용하여 복제 이미지 프레임들 (또는 확장 이미지 프레임들)을 획득하는 FRC는, 복제 프레임에 의한 방안과, 움직임 보상에 의한 방안 등이 있을 수 있다. 예컨대, 상기 FRC는 에지 블록 스케일링 (EBS: edged block scaling) 영상 포맷을 기반으로 수행될 수 있다. 상기 EBS 영상 포맷은 이미지로부터 추출된 에지 (edged), 블록 (block), 스케일링 (scaling) 각각에 대응한 정보를 기반으로 영상 압축 및 전송을 위해 정의된 영상 포맷이다. 여기서, 블록 (block, B)에 대응한 정보 (부가정보)는 컬러 이미지 프레임으로부터 획득할 수 있는 모션 벡터 (motion vector)에 관한 정보가 될 수 있다.
예컨대, 컬러 이미지에서 글로벌 모션 (global motion) 검색을 수행하고, 흑백 이미지의 에지를 추출하며, 상기 추출한 에지에 대하여 FRC를 수행함으로써, 보다 정확한 모션 벡터의 추출이 가능할 수 있다.
이런 경우, 상기 이미지 처리부(450)는 FRC로 인한 연산량의 문제를 해결할 수 있어야 한다. 일 예로, 상기 이미지 처리부(450)는 컬러 이미지 프레임에 대한 다운 스케일링을 수행하고, 상기 다운 스케일링된 저 해상도의 컬러 이미지 프레임으로부터 모션 벡터를 획득하며, 상기 획득한 모션 벡터를 이용하여 글로벌 모션을 검색할 수 있다. 그리고 상기 이미지 처리부(450)는 흑백 이미지 프레임들로부터 상기 글로벌 모션 벡터를 기반으로 단순하면서 쉽게 실제 움직임 (real motion)을 검색할 수 있다. 여기에서 실제 움직임은 실제 움직임 벡터를 의미한다. 상술한 바에 의해 실제 움직임을 검색할 경우, 연산 오류 (local minima 등)로 인한 잘못된 모션 (wrong motion)을 얻게 되는 것을 방지할 수 있다.
여기서, 상기 모션 벡터는 시간의 흐름에 따른 동영상 프레임들에서의 움직임을 정의하는 방향과 크기에 상응한 값을 정의하는 것이다. 상기 모션 벡터는 글로벌 모션 벡터 (global motion vector)와 로컬 모션 벡터(local motion vector)로 구분될 수 있다. 상기 글로벌 모션 벡터는 영상 센서가 흔들리거나 이동하는 경우 또는 영상 센서가 팬 또는 틸트 기동하는 경우 두 영상 사이에 발생하는 모션 벡터를 정의한다. 상기 로컬 모션 벡터는 영상 내 물체 및 일부 영역 (예를 들면, 영상 블록)이 이동하는 경우 두 영상 사이에 발생하는 모션 벡터를 정의한다.
상술한 바에 따르면, 낮은 해상도의 컬러 이미지 프레임으로부터 글로벌 모션을 검색함으로써, 연산량을 줄일 수 있을 뿐만 아니라, 글로벌 모션이 존재하는 부분에 대해서 지역 밀집 매칭 (local dense matching)을 수행할 수 있다. 이 또한 연산 량을 줄일 수 있는 이유가 된다. 상기 지역 밀집 매칭은 연속하는 이미지 프레임들 간에 움직임의 변화량이 없는 영역을 정의함으로써, 압축 데이터 량을 줄이기 위해 사용될 수 있다.
일 실시 예에 따르면, 제1 센서(430)를 흑백 이미지 센서로 구성하고, 제2 센서(440)를 컬러 이미지 센서로 구성할 수 있다. 상기 흑백 이미지 센서는 상기 컬러 이미지 센서에 비해 대략 3배의 수광량을 제공하는 특성을 가진다. 예컨대, 고해상도 (HD급)를 기준으로 흑백 이미지 센서는 480 fps를 처리할 수 있으나, 컬러 이미지 센서는 240 fps를 처리할 수 있다. 통상적으로 흑백 이미지 센서는 720fps까지 처리가 가능하나, AP 코덱 성능, ADC 개수, MIPI 대역폭에 따라 fps를 조절하는 것이 가능할 수 있다.
이 경우, 제1 센서(430)는 제2 센서(450)에 비해 상대적으로 높은 프레임 레이트에 의한 흑백 이미지 프레임들을 출력할 수 있다. 그리고 상기 제2 센서(440)는 상기 제1 센서(430)에 비해 상대적으로 낮은 프레임 레이트의 컬러 이미지 프레임들을 출력할 수 있다.
하나의 예로써, 제1 센서(430)에 상응한 흑백 이미지 센서는 제1 시간에서 피사체에 대한 제1 흑백 이미지를 출력하고, 제2 시간에서 상기 피사체에 대한 제2 흑백 이미지를 출력할 수 있다. 상기 제1 센서(430)는 제1 및 제2 흑백 이미지 외에 더 많은 흑백 이미지를 출력할 수도 있다. 상기 제1 센서(430)는 더 많은 흑백 이미지를 제1 시간 간격으로 출력할 수 있다.
제2 센서(440)에 상응한 컬러 이미지 센서는 상기 피사체에 대한 컬러 이미지를 출력할 수 있다. 상기 제2 센서(440)에 상응한 컬러 이미지는 제1 시간과 제2 시간 사이에 존재하는 제3 사간에서 상기 컬러 이미지를 출력할 수 있다. 상기 제2 센서(440)는 제2 시간 간격으로 더 많은 컬러 이미지를 출력할 수도 있다.
상기 제1 흑백 이미지와 상기 제2 흑백 이미지의 해상도는 상기 컬러 이미지의 해상도보다 상대적으로 높을 수 있다. 그렇지 않고, 상기 컬러 이미지의 해상도는 상기 제1 흑백 이미지와 상기 제2 흑백 이미지의 해상도보다 상대적으로 높을 수도 있다.
상기 프로세서(450)는 제1 흑백 이미지와 제2 흑백 이미지 및 컬러 이미지를 획득할 수 있다. 상기 프로세서(450)는 상기 제1 흑백 이미지의 적어도 일부 정보와 상기 제2 흑백 이미지의 적어도 일부 정보를 이용하여, 상기 제1 시간과 상기 제2 시간 사이에 존재하는 제3 시간에 대응한 제3 흑백 이미지를 생성할 수 있다. 상기 제1 흑백 이미지의 적어도 일부 정보는 상기 제1 흑백 이미지에 대응한 제1 엣지 정보에 의해 획득할 수 있고, 상기 제2 흑백 이미지의 적어도 일부 정보는 상기 제2 흑백 이미지에 대응한 제2 엣지 정보에 의해 획득할 수 있다.
상기 프로세서(450)는 상기 제2 센서(440)를 통해, 다른 (another) 컬러 이미지를 획득하고, 앞서 획득한 컬러 이미지와 추가로 획득한 다른 컬러 이미지를 이용하여 해당 피사체에 대응하는 모션 벡터를 획득할 수 있다. 이런 경우, 상기 프로세서(450)는 상기 모션 벡터의 적어도 일부를 이용하여, 상기 제1 시간 및 상기 제2 시간 사이에서의 제3 흑백 이미지를 생성할 수도 있다.
상기 프로세서(450)는 상기 획득한 컬러 이미지로부터 색상 정보 또는 상기 색상 정보의 일부를 획득할 수 있다. 상기 프로세서(450)는 상기 컬러 이미지로부터 획득한 색상 정보 중 적어도 일부를 기반으로 하여 제1 색상과 제2 색상을 결정할 수 있다. 상기 프로세서(450)는 제1 흑백 이미지에 상기 결정한 제1 색상을 합성하여 제1 합성 컬러 이미지를 생성할 수 있다. 상기 프로세서(450)는 제2 흑백 이미지에 상기 결정한 제2 색상을 합성하여 제2 합성 컬러 이미지를 생성할 수 있다. 상기 프로세서(450)는 생성한 제1 및 제2 합성 컬러 이미지를 메모리에 비디오 데이터로 저장할 수 있다. 상기 프로세서(450)는 생성한 제1 및 제2 합성 컬러 이미지를 화면을 통해 순차적으로 표시할 수도 있다.
상기 제3 흑백 이미지를 생성하는 경우, 상기 프로세서(450)는 색상 정보, 또는 제1 컬러 이미지 또는 제2 컬러 이미지와 연관된 다른 색상 정보에 기반하여 결정된 제3 색상을 상기 제3 흑백 이미지에 합성하여 제3 컬러 이미지를 생성할 수도 있다. 그뿐만 아니라, 상기 프로세서(450)는 제1 컬러 이미지의 적어도 일부 정보와 제2 컬러 이미지의 적어도 일부 정보를 이용하여, 제1 시간과 제2 시간 사이에 존재하는 제3 시간에서의 제3 컬러 이미지를 생성할 수도 있다.
도 5는 제안된 다양한 실시 예에 따른, 이미지 처리장치의 구성에 대한 다른 일 예를 도시한 도면이다.
도 5에서 도시하고 있는 이미지 처리장치는 도 4에서 도시한 이미지 처리장치를 구성하는 분배부(420)를 대신하여 센서별로 독립된 렌즈를 구비하는 구조를 가진다.
일 실시 예에 따르면, 제1 센서(530)와 제2 센서(540) 각각에 대응하여 제1 렌즈(510)와 제2 렌즈(520)를 독립적으로 구성할 수 있다. 상기 제1 렌즈(510)와 상기 제2 렌즈(520)는 모양과 크기가 다를 수 있으며, 그 기능에 따라 여러 종류로 구분될 수 있다. 예컨대, 초점 거리에 따라 광각 렌즈와 표준 렌즈, 망원렌즈 및 줌 렌즈 등으로 구분될 수 있다. 또한, 상기 제1 및 제2 렌즈들(510, 520)은 밝기 또는 속도 등의 특성에 따라 구분될 수도 있다. 예컨대, 상기 렌즈의 밝기 또는 속도는 최소 조리개 값 (f)과 관련된 렌즈의 특성이 될 수 있다. 상기 제1 및 제2 렌즈들(510, 520)의 밝기는 최소 조리개 값 (f) (최대 조리개 개방)을 의미한다.
상기 제1 및 제2 렌즈들(510, 520)의 최대 조리개 개방 값이 클수록 (최소 조리개 f 값이 작을수록), 단위 시간당 더 많은 빛을 통과시킬 수 있다 (렌즈가 밝다). 상기 제1 및 제2 렌즈들(510, 520)이 밝을수록 빠른 셔터 스피드를 확보할 수 있어, 어두운 촬영 환경 (수광 량이 적은 환경)에서도 좀더 밝은 이미지를 얻을 수 있다..
제안된 다양한 실시 예에 따르면, 제1 렌즈(510)와 제2 렌즈(520)는 동일한 특성을 가질 수도 있지만, 그렇지 않을 수도 있다. 예컨대, 제1 렌즈(510)는 광각 렌즈이고, 제2 렌즈(520)는 망원 렌즈일 수 있다. 상기 제1 렌즈(510)와 상기 제2 렌즈(520)는 그 종류에 따라 피사체로부터 반사된 빛을 굴절 시키는 정도, 빛의 량 등이 상이할 수 있다.
그 외의 구성들, 즉 제1 및 제2 센서(530, 540)와 이미지 처리부(552)와 센서 구동부(554)를 포함하는 프로세서(550)의 기능 및 그에 따른 동작은 도 4에서 대응하는 구성들과 동일할 수 있다.
한편, 도시하고 있지는 않지만, 도 1 및 도 2에서 렌즈의 개수 및 센서의 개수는 제안된 다양한 실시 예들을 위해 한정되지는 않는다. 즉, 제안된 다양한 실시 예들은 특정 개수의 렌즈 또는 특정 개수의 센서에 대해서만 제한적으로 적용될 수 있는 것은 아니다. 또한, 도 1에서 제안된 구조와 도 2에서 제안된 구조가 결합된 구조에 의한 구현도 가능할 수 있다. 즉, 세 개 이상의 렌즈들 중 하나의 렌즈와 분배부를 사용하여 복수의 센서들로 빛을 공급하고, 나머지 두 개 이상의 렌즈들 각각이 대응하는 센서로 빛을 공급하는 구조로 이미지 처리장치를 구성하는 것도 가능할 수 있다.
도 6은 제안된 다양한 실시 예에 따른, 이미지 처리를 위한 블록 구성을 도시한 도면이다.
도 6을 참조하면, 이미지 처리부(450, 550)는 프레임 레이트 변환 모듈(610)과, 영상 정합 모듈(620)을 포함할 수 있다.
상기 프레임 레이트 변환 모듈(610)은 상대적으로 높은 데이터 레이트를 가지는 흑백 이미지 프레임들 (소스 흑백 이미지 프레임들)을 사용하여 복제 이미지 프레임들 (또는 확장 이미지 프레임들)을 획득할 수 있다.
상기 영상 정합 모듈(620)은 상대적으로 낮은 데이터 레이트를 가지는 컬러 이미지 프레임들을 사용하여 영상 정합 후, 상기 소스 흑백 이미지 프레임들과 상기 확장 이미지 프레임들을 대상으로 영상 정합을 수행할 수 있다. 상기 영상 정합은 예를 들면, 컬러 이미지 프레임으로부터 획득한 컬러 정보를 사용하여 소스 흑백 이미지 프레임들과 확장 이미지 프레임들에 컬러를 추가하는 컬러 디퓨징 (color diffusing)을 수행하는 컬러 합성을 포함할 수 있다. 또한, 상기 영상 정합은 예들 들면, 소스 흑백 이미지 프레임들과 확장 이미지 프레임들로부터 획득한 휘도 정보를 사용하여 컬러 이미지 프레임의 해상도를 높이는 영상 합성을 포함할 수도 있다.
상기 이미지 처리부(450, 550)는 영상 정합의 결과로 데이터 레이트를 변환한 컬러 이미지 프레임들을 출력 이미지로 얻을 수 있다.
일 실시 예에 따르면, 상기 프레임 레이트 변환 모듈(610)은 흑백 이미지 프레임들 (소스 흑백 이미지 프레임들)을 사용하여 복제 이미지 프레임들 (또는 확장 이미지 프레임들)을 획득하는 FRC를 수행할 수 있다. 상기 프레임 레이트 변환 모듈(610)은 복제 프레임에 의한 방안과, 움직임 보상에 의한 방안 등에 의해, ERC를 수행할 수 있다.
예컨대, 상기 프레임 레이트 변환 모듈(610)은 EBS를 기반으로 FRC를 수행할 수 있다. 상기 EBS는 컬러 이미지에서 글로벌 모션 검색을 수행하고, 흑백 이미지의 에지를 추출하며, 상기 추출한 에지에 대하여 FRC를 수행함으로써, 보다 정확한 모션 벡터를 추출하는 것이 가능할 수 있다.
상기 영상 정합 모듈(620)은 컬러 이미지 프레임에 대한 다운 스케일링을 수행하고, 상기 다운 스케일링된 저 해상도의 컬러 이미지 프레임으로부터 모션 벡터를 획득하며, 상기 획득한 모션 벡터를 이용하여 클로벌 모션을 검색할 수 있다. 그리고 상기 영상 정합 모듈(620)은 흑백 이미지 프레임들로부터 상기 글로벌 모션을 기준으로 심플 리얼 모션을 검색할 수 있다.
상술한 바에 따르면, 낮은 해상도의 컬러 이미지 프레임으로부터 글로벌 모션을 검색함으로써, 연산 량을 줄일 수 있을 뿐만 아니라, 글로벌 모션이 존재하는 부분에 대해서 지역 밀집 매칭을 수행할 수 있다. 이 또한 연산량을 줄일 수 있는 이유가 된다.
도 7은 제안된 다양한 실시 예에 따른, 이미지 처리 절차에 대한 제어 흐름을 도시한 도면이다.
도 7을 참조하면, 이미지 처리장치 (예로써 제1 센서(430, 530) 또는 제2 센서(440, 540)는 710단계에서 촬영 이미지를 입력받을 수 있다. 상기 촬영 이미지는 하나 또는 다수 렌즈들에 의해 굴절된 빛이 다수 센서들에 의해 검지됨을 의미할 수 있다. 상기 검지된 빛은 상기 다수 센서들 각각에 의해 전기적 이미지 신호 (이미지 프레임들)로 출력될 수 있다.
상기 이미지 처리장치는 712단계에서 상기 다수 센서들 중 하나의 센서를 사용하여 흑백 이미지 프레임을 추출할 수 있다. 상기 이미지 처리장치는 714단계에서 추출한 흑백 이미지 프레임들을 사용하여 프레임 레이트 변환을 수행할 수 있다.
일 실시 예에 따르면, 상대적으로 높은 데이터 레이트를 가지는 흑백 이미지 프레임들 (소스 흑백 이미지 프레임들)을 사용하여 복제 이미지 프레임들 (또는 확장 이미지 프레임들)을 획득할 수 있다. 즉, 흑백 이미지 프레임들 (소스 흑백 이미지 프레임들)을 사용하여 복제 이미지 프레임들 (또는 확장 이미지 프레임들)을 획득하는 FRC를 수행할 수 있다. 상기 FRC는 복제 프레임에 의한 방안과, 움직임 보상에 의한 방안 등에 의해 수행할 수 있다.
예컨대, FRC는 EBS를 기반으로 수행할 수 있다. 상기 EBS는 컬러 이미지에서 글로벌 모션 검색을 수행하고, 흑백 이미지의 에지를 추출하며, 상기 추출한 에지에 대하여 FRC를 수행함으로써, 보다 정확한 모션 벡터를 추출하는 것이 가능할 수 있다.
상기 이미지 처리장치는 716단계에서 상기 다수 센서들 중 하나의 센서를 사용하여 컬러 이미지 프레임을 추출할 수 있다. 상기 이미지 처리장치는 718단계에서 추출한 컬러 이미지 프레임들을 사용하여 모션 백터를 검색할 수 있다.
예컨대, 상기 이미지 처리장치는 상대적으로 낮은 데이터 레이트를 가지는 컬러 이미지 프레임들을 사용하여 영상 정합 후, 상기 소스 흑백 이미지 프레임들과 상기 확장 이미지 프레임들을 대상으로 컬러 디퓨징을 수행할 수 있다.
일 실시 예에 따르면, 컬러 이미지 프레임에 대한 다운 스케일링을 수행하고, 상기 다운 스케일링된 저 해상도의 컬러 이미지 프레임으로부터 모션 벡터를 획득할 수 있다. 그리고 상기 획득한 모션 벡터를 이용하여 글로벌 모션 벡터를 검색할 수 있다. 이때, 심플 리얼 모션은 흑백 이미지 프레임들로부터 글로벌 모션 벡터를 기준으로 검색할 수 있다.
상기 이미지 처리장치는 720단계에서 상기 프레임 레이트의 변환이 이루어진 흑백 이미지 프레임들에 대한 채색을 상기 검색이 이루어진 모션 벡터를 기반으로 수행할 수 있다. 이로써, 상기 이미지 처리장치는 데이터 레이트를 변환한 컬러 이미지 프레임들을 출력 이미지로 얻을 수 있다.
도 8은 제안된 다양한 실시 예에 따른, 전자장치에서의 두 개의 이미지 센서를 사용한 촬영 예를 도시한 도면이다.
도 8을 참조하면, 위쪽 두 개의 컬러 이미지 (a, b)는 노출 조건을 다르게 하여 컬러 이미지 센서에 의해 촬영된 것이며, 아래쪽 한 개의 흑백 이미지 (c)는 흑백 이미지 센서에 의해 촬영된 것이다. 이와 같이, 동일한 시간에 하나의 흑백 이미지 (c)에 대응하여 두 개의 컬러 이미지들 (a, b)을 촬영할 수 있는 것은, 흑백 이미지와 컬러 이미지의 해상도 차이로 인한 것이다. 즉, 흑백 이미지는 컬러 이미지에 비해 상대적으로 높은 해상도를 가질 수 있다. 이 경우, 해상도가 높은 흑백 이미지에 대한 리드 타임은 해상도가 낮은 컬러 이미지에 대한 리드 타임에 비해 상대적으로 길 수 있다. 따라서, 한 개의 흑백 이미지 (c)에 대한 리드 타임 동안 두 개의 컬러 이미지들 (a, b)을 촬영하는 것이 가능할 수 있는 것이다.
상기 두 개의 컬러 이미지들을 살펴보면, 첫 번째 컬러 이미지 a에 비해 두 번째 컬러 이미지 b의 촬영을 위한 노출 시간이 길게 설정되었음을 확인할 수 있다.
도 9는 제안된 다양한 실시 예에 따른, 전자장치에서 이미지 합성 예를 도시한 도면이다.
도 9를 참조하면, 하나의 합성 이미지 d는 하나의 흑백 이미지 c에 두 개의 컬러 이미지 a 및 b를 합성하여 생성할 수 있다. 상기 하나의 흑백 이미지 c의 동작 범위 (DR)가 두 개의 컬러 이미지 a와 b의 동작 범위 (DR)에 비해 상대적으로 넓음을 알 수 있다. 그리고 두 개의 컬러 이미지 a와 b 중 컬러 이미지 b의 동작 범위가 컬러 이미지 a의 동작 범위에 비해 넓음을 알 수 있다.
예컨대, 상기 하나의 합성 이미지 d는 하나의 흑백 이미지 c로부터 밝기 정보를 획득하고, 두 개의 컬러 이미지 a와 b로부터 색차 정보를 획득하며, 상기 획득한 밝기 정보 및 색차 정보를 사용하여 생성할 수 있다.
도 10은 제안된 다양한 실시 예에 따른, 전자장치에서 이미지 합성 절차를 도시한 도면이다.
도 10을 참조하면, 저조도 상황에서의 이미지 합성 절차는 정보 추출 단계 (1010)와 이미지 결합 단계 (1020)로 이루어질 수 있다.
상기 정보 추출 단계 (1010)는 짧은 노출 시간에 의해 촬영된 흑백 이미지로부터 밝기 정보를 추출 (1012)하고, 긴 노출 시간에 의해 촬영된 다수의 컬러 이미지로부터 색차 정보를 추출 (1016)하는 동작을 수행할 수 있다. 이를 위해, 흑백 이미지를 촬영할 이미지 센서에 대해서는 짧은 노출 시간을 위한 설정 (노출 및 셔터 스피드 등)이 이루어지고, 다수의 컬러 이미지를 촬영할 이미지 센서에 대해서는 긴 노출 시간을 위한 설정 (노출 및 셔터 스피드 등)이 이루어질 수 있다. 그리고 상기 흑백 이미지의 촬영과 상기 다수의 컬러 이미지의 촬영은 거의 유사한 시간동안에 이루어질 수 있어야 할 것이다.
만약 조도가 매우 낮다면, 여러 장의 이미지를 촬영하고, 상기 촬영된 여러 장의 이미지를 사용하여 밝기를 향상시키는 절차를 수행할 수 있다 (1014). 이는 흑백 이미지에만 적용되는 것이 아니라 컬러 이미지의 촬영 시에도 동일하게 적용될 수 있다. 그리고 조도가 낮을 경우, 컬러 이미지 센서에 대해서는 긴 노출이 이루어지도록 촬영 조건을 설정할 수 있다. 그뿐만 아니라, 컬러 이미지 센서에 대해 다수의 촬영 조건을 설정하고, 각 촬영 조건에 의한 컬러 이미지를 촬영하도록 할 수 있다. 이런 경우, 다른 촬영 조건에 의해 얻어진 다수의 컬러 이미지를 활용하여 향상된 품질의 컬러 이미지를 획득할 수도 있다.
하지만, 긴 노출을 요구하는 컬러 이미지 센서의 경우, 극 저조도 환경에서는 그 동작이 차단될 수도 있다. 이 경우, 흑백 이미지 센서만을 사용하여 서로 다른 조건에 의해 촬영된 다수의 흑백 이미지를 획득하도록 하고, 상기 다수의 흑백 이미지를 기반으로 향상된 품질의 흑백 이미지를 생성할 수도 있다.
도 11은 제안된 다양한 실시 예에 따른, 이미지 처리 결과에 대한 예를 도시한 도면이다.
도 11을 참조하면, 좌측 두 개의 이미지는 저조도 환경에서 컬러 이미지 센서와 흑백 이미지 센서에 의해 획득된 컬러 이미지와 흑백 이미지의 예이고, 우측 두 개의 이미지는 제안된 실시 예에 따른 이미지 처리 후에 얻은 결과 이미지의 예이다. 상기 이미지 처리 이전의 이미지에 비해 이미지 처리 후의 결과 이미지가 좀 더 밝고 깨끗함을 확인할 수 있다.
도 12는 제안된 다양한 실시 예에 따른, 전자장치에서의 이미지 처리를 위한 제어 흐름을 도시한 도면이다.
도 12를 참조하면, 전자장치(예: 프로세서(120))는 제1 이미지 센서를 이용하여 다수의 흑백 이미지를 획득한다 (1210단계). 예컨대, 상기 전자장치는 제1 시간에서 피사체에 대한 제1 흑백 이미지를 획득하고, 제2 시간에서 상기 피사체에 대한 제2 흑백 이미지를 획득할 수 있다. 상기 전자장치는 제1 이미지 센서를 통해 제1 및 제2 흑백 이미지 외에 더 많은 흑백 이미지를 출력할 수도 있다. 즉, 상기 전자장치는 제1 이미지 센서를 이용하여 제1 시간 간격으로 더 많은 흑백 이미지를 획득할 수 있다.
상기 전자장치는 상기 제1 흑백 이미지의 적어도 일부 정보와 상기 제2 흑백 이미지의 적어도 일부 정보를 이용하여, 상기 제1 시간과 상기 제2 시간 사이에 존재하는 임의의 시간에서의 제3 흑백 이미지를 생성할 수 있다. 상기 전자장치는 제1 흑백 이미지의 적어도 일부 정보를 상기 제1 흑백 이미지에 대응한 제1 엣지 정보에 의해 획득할 수 있다. 상기 전자장치는 제2 흑백 이미지의 적어도 일부 정보를 상기 제2 흑백 이미지에 대응한 제2 엣지 정보에 의해 획득할 수 있다.
상기 전자장치는 제2 이미지 센서를 이용하여 상기 피사체에 대한 컬러 이미지를 획득한다 (1212단계). 상기 전자장치는 상기 컬러 이미지를 제1 및 제2 흑백 이미지를 획득한 제1 시간과 제2 시간 사이의 임의의 시간에서 획득할 수 있다. 상기 전자장치는 제2 시간 간격으로 더 많은 컬러 이미지를 획득할 수도 있다.
상기 전자장치는 상기 제2 이미지 센서를 통해, 다른 (another) 컬러 이미지를 획득할 수 있다. 이런 경우, 상기 전자장치는 앞서 획득한 컬러 이미지와 추가로 획득한 다른 컬러 이미지를 이용하여 해당 피사체에 대응하는 모션 벡터를 획득할 수 있다. 상기 전자장치는 상기 모션 벡터의 적어도 일부를 이용하여, 제1 시간과 제2 시간 사이에서의 제3 흑백 이미지를 생성할 수도 있다.
상기 제1 이미지 센서 (흑백 이미지 센서)는 상기 제2 이미지 센서 (컬러 이미지 센서)에 비해 대략 3배의 수광 량을 제공하는 특성을 가진다. 예컨대, 고해상도 (HD급)를 기준으로 흑백 이미지 센서는 480 fps를 처리할 수 있으나, 컬러 이미지 센서는 240 fps를 처리할 수 있다. 통상적으로 흑백 이미지 센서는 720 fps까지 처리가 가능하나, AP 코덱 성능, ADC 개수, MIPI 대역폭에 따라 fps를 조절하는 것이 가능할 수 있다.
이 경우, 제1 이미지 센서는 제2 이미지 센서에 비해 상대적으로 높은 프레임 레이트에 의한 흑백 이미지 프레임들을 출력할 수 있다. 그리고 상기 제2 이미지 센서는 상기 제1 이미지 센서에 비해 상대적으로 낮은 프레임 레이트의 컬러 이미지 프레임들을 출력할 수 있다.
상기 전자장치는 제1 흑백 이미지와 제2 흑백 이미지 및 컬러 이미지를 획득할 수 있다. 상기 제1 흑백 이미지와 상기 제2 흑백 이미지의 해상도는 상기 컬러 이미지의 해상도보다 상대적으로 높을 수 있다. 그렇지 않고, 상기 컬러 이미지의 해상도는 상기 제1 흑백 이미지와 상기 제2 흑백 이미지의 해상도보다 상대적으로 높을 수도 있다.
상기 전자장치는 획득한 컬러 이미지로부터 색상 정보 또는 상기 색상 정보의 일부를 획득할 수 있다 (1214단계). 상기 전자장치는 상기 획득한 색상 정보 또는 상기 색상 정보의 일부를 이용한 영상 정합을 통해, 다수의 합성 컬러 이미지를 생성할 수 있다 (1216단계).
예컨대, 상기 전자장치는 획득한 색상 정보 중 적어도 일부를 기반으로 제1 색상과 제2 색상을 결정할 수 있다. 상기 전자장치는 제1 흑백 이미지에 상기 결정한 제1 색상을 합성하여 제1 합성 컬러 이미지를 생성할 수 있다. 상기 전자장치는 제2 흑백 이미지에 상기 결정한 제2 색상을 합성하여 제2 합성 컬러 이미지를 생성할 수 있다.
상기 전자장치는 상기 생성한 제1 및 제2 합성 컬러 이미지를 메모리에 비디오 데이터로 저장할 수 있다 (1218단계). 상기 전자장치는 상기 생성한 제1 및 제2 합성 컬러 이미지를 화면을 통해 순차적으로 표시할 수도 있다.
상기 제3 흑백 이미지를 생성하는 경우, 상기 전자장치는 색상 정보, 또는 제1 컬러 이미지 또는 제2 컬러 이미지와 연관된 다른 색상 정보에 기반하여 결정된 제3 색상을 상기 제3 흑백 이미지에 합성하여 제3 컬러 이미지를 생성할 수도 있다. 그뿐만 아니라, 상기 전자장치는 제1 컬러 이미지의 적어도 일부 정보와 제2 컬러 이미지의 적어도 일부 정보를 이용하여, 제1 시간과 제2 시간 사이에 존재하는 제3 시간에서의 제3 컬러 이미지를 생성할 수도 있다.
한편, 본 개시의 상세한 설명에서는 구체적인 실시 예에 관해 설명하였으나, 본 개시에서 제안한 다양한 실시 예에 따른 범위에서 벗어나지 않는 한도 내에서 당해 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 여러 가지 변형에 의한 실시할 수 있음은 물론이다. 그러므로 본 개시에 따른 범위는 설명된 실시 예에 국한되어 정해져서는 안 되며, 후술하는 특허 청구의 범위뿐만 아니라, 이 특허 청구의 범위와 균등한 것들에 의해 정해져야 한다. 그뿐만 아니라, 이러한 변형 실시들은 본 개시의 기술적 사상이나 전망으로부터 개별적으로 이해되어서는 안 될 것이다.

Claims (20)

  1. 메모리;
    제 1 흑백 (BW) 이미지 센서;
    제 2 이미지 센서; 및
    프로세서를 포함하되,
    상기 프로세서는,
    상기 제 1 BW 이미지 센서를 이용하여, 피사체에 대한 제 1 시간에 대응하는 제 1 흑백 이미지, 및 상기 피사체에 대한 제 2 시간에 대응하는 제 2 흑백 이미지를 획득하고,
    상기 제 2 이미지 센서를 이용하여, 상기 피사체에 대한 컬러 이미지를 획득하고,
    상기 제 1 흑백 이미지에 상기 컬러 이미지의 색상 정보 중 적어도 일부를 기반으로 하여 결정된 제 1 색상이 합성된 제 1 컬러 이미지를 생성하고, 상기 제 2 흑백 이미지에 상기 색상 정보 중 적어도 일부를 기반으로 하여 결정된 제 2 색상이 합성된 제 2 컬러 이미지를 생성하고,
    상기 제 1 컬러 이미지와 상기 제 2 컬러 이미지를 상기 메모리에 비디오 데이터로 저장하도록 설정된 전자 장치.
  2. 제 1 항에 있어서, 상기 프로세서는,
    상기 제 1 시간과 상기 제 2 시간 사이의 제 3 시간에 상기 컬러 이미지를 획득하도록 설정된 전자 장치.
  3. 제 1 항에 있어서, 상기 프로세서는,
    상기 제 1 BW 이미지 센서를 통하여, 제 1 시간 간격 (time interval)으로 상기 제 1 흑백 이미지 및 상기 제 2 흑백 이미지를 포함하는 복수의 흑백 이미지들을 획득하고, 및
    상기 제 2 이미지 센서를 통하여, 제 2 시간 간격으로 상기 컬러 이미지를 포함하는 복수의 컬러 이미지들을 획득하도록 설정된 전자 장치.
  4. 제 1 항에 있어서, 상기 프로세서는,
    상기 제 1 BW 이미지 센서를 통하여, 상기 제 1 흑백 이미지 및 상기 제 2 흑백 이미지를 제 1 해상도로 획득하고, 및
    상기 제 2 이미지 센서를 통하여, 상기 컬러 이미지를 상기 제 1 해상도보다 높은 제 2 해상도로 획득하도록 설정된 전자 장치.
  5. 제 1 항에 있어서, 상기 프로세서는,
    상기 프로세서와 기능적으로 연결된 디스플레이를 통하여, 상기 제 1 컬러 이미지 및 상기 제 2 컬러 이미지를 순차적으로 표시하도록 설정된 전자 장치.
  6. 제 1 항에 있어서, 상기 프로세서는,
    상기 제 1 흑백 이미지의 적어도 일부 정보 및 상기 제 2 흑백 이미지의 적어도 일부 정보를 이용하여, 상기 제 1 시간 및 상기 제 2 시간 사이의 제 3 시간에 대응하는 제 3 흑백 이미지를 생성하도록 설정된 전자 장치.
  7. 제 6 항에 있어서, 상기 프로세서는,
    상기 제 1 흑백 이미지에 대응하는 제 1 엣지 (edge) 정보를 상기 제 1 흑백 이미지의 상기 적어도 일부 정보로 획득하도록 설정되고, 상기 제 2 흑백 이미지에 대응하는 제 2 엣지 정보를 상기 제 2 흑백 이미지의 상기 적어도 일부 정보로 획득하도록 설정된 전자 장치.
  8. 제 6 항에 있어서, 상기 프로세서는,
    상기 색상 정보, 또는 상기 제 1 컬러 이미지 또는 상기 제 2 컬러 이미지와 연관된 다른 색상 정보에 기반하여 결정된 제 3 색상을 상기 제 3 흑백 이미지에 합성하여 제 3 컬러 이미지를 생성하도록 설정된 전자 장치.
  9. 제 1 항에 있어서, 상기 프로세서는,
    상기 제 2 이미지 센서를 이용하여, 다른 (another) 컬러 이미지를 획득하고,
    상기 컬러 이미지 및 상기 다른 컬러 이미지를 이용하여 상기 피사체에 대응하는 모션 벡터 (motion vector)를 획득하고, 및
    상기 모션 벡터의 적어도 일부를 이용하여, 상기 제 1 시간 및 상기 제 2 시간 사이의 시간에 대응하는 제 3 흑백 이미지를 생성하도록 설정된 전자 장치.
  10. 제 1 항에 있어서, 상기 프로세서는,
    상기 제 1 컬러 이미지의 적어도 일부 정보 및 상기 제 2 컬러 이미지의 적어도 일부 정보를 이용하여, 상기 제 1 시간 및 상기 제 2 시간 사이의 제 3 시간에 대응하는 제 3 컬러 이미지를 생성하도록 설정된 전자 장치.
  11. 제 1 흑백 (BW) 이미지 센서 및 제 2 이미지 센서를 포함하는 전자 장치에서의 동작 방법에 있어서,
    상기 제 1 BW 이미지 센서를 이용하여, 피사체에 대한 제 1 시간에 대응하는 제 1 흑백 이미지, 및 상기 피사체에 대한 제 2 시간에 대응하는 제 2 흑백 이미지를 획득하는 동작;
    상기 제 2 이미지 센서를 이용하여, 상기 피사체에 대한 컬러 이미지를 획득하는 동작;
    상기 제 1 흑백 이미지에 상기 컬러 이미지의 색상 정보 중 적어도 일부를 기반으로 하여 결정된 제 1 색상이 합성된 제 1 컬러 이미지를 생성하고, 상기 제 2 흑백 이미지에 상기 색상 정보 중 적어도 일부를 기반으로 하여 결정된 제 2 색상이 합성된 제 2 컬러 이미지를 생성하는 동작; 및
    상기 제 1 컬러 이미지 및 상기 제 2 컬러 이미지를 상기 메모리에 비디오 데이터로 저장하는 동작을 포함하는 방법.
  12. 제 11 항에 있어서, 상기 컬러 이미지를 상기 획득하는 동작은,
    상기 제 1 시간과 상기 제 2 시간 사이의 제 3 시간에 상기 컬러 이미지를 획득하는 동작을 포함하는 방법.
  13. 제 11 항에 있어서,
    상기 제 1 흑백 이미지와 상기 제 2 흑백 이미지를 포함하는 복수의 흑백 이미지들이 상기 제 1 BW 이미지 센서를 통하여 제 1 시간 간격으로 획득되고, 및 상기 컬러 이미지를 포함하는 복수의 컬러 이미지들이 상기 제 2 이미지 센서를 통하여 상기 제 1 시간 간격보다 큰 제 2 시간 간격으로 획득되는 방법.
  14. 제 11 항에 있어서,
    상기 제 1 흑백 이미지 또는 상기 제 2 흑백 이미지에 대응하는 제 1 해상도와 상기 컬러 이미지에 대응하는 제 2 해상도가 동일한 경우, 상기 컬러 이미지의 제 2 해상도를 상기 제 2 해상도보다 낮은 제 3 해상도로 변경하는 동작을 더 포함하는 방법.
  15. 제 11 항에 있어서,
    상기 전자 장치와 기능적으로 연결된 디스플레이를 통하여, 상기 제 1 컬러 이미지 및 상기 제 2 컬러 이미지를 순차적으로 표시하는 동작을 포함하는 방법.
  16. 제 11 항에 있어서,
    상기 제 1 흑백 이미지의 적어도 일부 정보 및 상기 제 2 흑백 이미지의 적어도 일부 정보를 이용하여, 상기 제 1 시간 및 상기 제 2 시간 사이의 제 3 시간에 대응하는 제 3 흑백 이미지를 생성하는 동작을 포함하는 방법.
  17. 제 16 항에 있어서, 상기 제 3 흑백 이미지를 생성하는 동작은,
    상기 제 2 이미지 센서를 이용하여, 상기 피사체에 대한 다른 (another) 컬러 이미지를 획득하는 동작; 및
    상기 컬러 이미지 및 상기 다른 컬러 이미지를 이용하여 상기 피사체에 대응하는 모션 벡터 (motion vector)를 획득하는 동작을 포함하고, 상기 제 3 흑백 이미지는 상기 모션 벡터의 적어도 일부를 더 이용하여, 생성되는 방법.
  18. 제 17항에 있어서,
    상기 피사체는 하나 이상의 객체들을 포함하고,
    상기 제 3 흑백 이미지를 상기 생성하는 동작은, 상기 모션 벡터의 상기 적어도 일부를 이용하여, 상기 제 3 흑백 이미지에서 상기 하나 이상의 객체들 중 선택된 객체에 대응하는 영역을 결정하는 동작을 포함하는 방법.
  19. 제 11 항에 있어서,
    상기 제 1 컬러 이미지 및 상기 제 2 컬러 이미지를 적어도 일부 이용하여, 상기 제 1 시간 및 상기 제 2 시간 사이의 제 3 시간에 대응하는 제 3 컬러 이미지를 생성하는 동작을 포함하는 방법.
  20. 제 1 흑백 (BW) 이미지 센서 및 제 2 이미지 센서를 포함하는 전자 장치에 있어서,
    상기 제 1 BW 이미지 센서를 이용하여, 피사체에 대한 제 1 시간에 대응하는 제 1 흑백 이미지, 및 상기 피사체에 대한 제 2 시간에 대응하는 제 2 흑백 이미지를 획득하는 동작;
    상기 제 2 이미지 센서를 이용하여, 상기 제 1 시간 및 상기 제 2 시간 사이에 속하는 제 3 시간에 대응하는, 상기 피사체에 대한 컬러 이미지를 획득하는 동작;
    상기 제 1 흑백 이미지에 상기 컬러 이미지의 색상 정보 중 적어도 일부를 기반으로 하여 결정된 제 1 색상이 합성된 제 1 컬러 이미지를 생성하고, 상기 제 2 흑백 이미지에 상기 색상 정보 중 적어도 일부를 기반으로 하여 결정된 제 2 색상이 합성된 제 2 컬러 이미지를 생성하는 동작; 및
    상기 제 1 컬러 이미지 및 상기 제 2 컬러 이미지를 상기 메모리에 비디오 데이터로 저장하는 동작을 실행시키기 위한 프로그램을 기록한 컴퓨터 판독 가능한 기록 매체.
PCT/KR2017/001079 2016-02-04 2017-02-01 이미지 처리장치 및 방법 WO2017135675A1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US16/073,682 US11195304B2 (en) 2016-02-04 2017-02-01 Image processing apparatus and method

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR10-2016-0013861 2016-02-04
KR1020160013861A KR102489279B1 (ko) 2016-02-04 2016-02-04 이미지 처리장치 및 방법

Publications (1)

Publication Number Publication Date
WO2017135675A1 true WO2017135675A1 (ko) 2017-08-10

Family

ID=59500960

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2017/001079 WO2017135675A1 (ko) 2016-02-04 2017-02-01 이미지 처리장치 및 방법

Country Status (3)

Country Link
US (1) US11195304B2 (ko)
KR (1) KR102489279B1 (ko)
WO (1) WO2017135675A1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112991188A (zh) * 2019-12-02 2021-06-18 RealMe重庆移动通信有限公司 图像处理方法及装置、存储介质、电子设备

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102632901B1 (ko) * 2019-01-11 2024-02-06 삼성전자주식회사 이미지 센서의 프레임 레이트를 제어하기 위한 전자 장치 및 그에 관한 방법
KR102654700B1 (ko) * 2020-01-09 2024-04-03 한화비전 주식회사 적어도 하나의 이미지 센서를 포함하는 카메라
US11689820B2 (en) * 2021-01-06 2023-06-27 GM Global Technology Operations LLC Combining grayscale scanned images with color image to create high-resolution overlay images in vehicles
CN115460386B (zh) * 2022-08-31 2024-05-17 武汉精立电子技术有限公司 一种利用黑白相机获取彩色图像的方法及系统
CN116528040B (zh) * 2023-07-03 2023-09-05 清华大学 基于复眼智能相机的图像超分辨率重建方法、装置及相机
CN118381927B (zh) * 2024-06-24 2024-08-23 杭州宇泛智能科技股份有限公司 基于多模态双向循环场景流的动态点云压缩方法、系统、存储介质及设备

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20090120159A (ko) * 2008-05-19 2009-11-24 삼성전자주식회사 영상합성장치 및 영상합성방법
US20100026839A1 (en) * 2008-08-01 2010-02-04 Border John N Method for forming an improved image using images with different resolutions
US20130335599A1 (en) * 2010-10-22 2013-12-19 University Of New Brunswick Camera Imaging Systems and Methods
JP5395956B2 (ja) * 2010-07-02 2014-01-22 株式会社ソニー・コンピュータエンタテインメント 情報処理システムおよび情報処理方法
US20150319326A1 (en) * 2014-05-02 2015-11-05 Arges Imaging, Inc. Systems, methods, apparatuses, and computer-readable storage media for collecting color information about an object undergoing a 3d scan

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8761507B1 (en) * 2012-08-02 2014-06-24 Google Inc. Bilateral filter optimization
JP2015115922A (ja) 2013-12-16 2015-06-22 オリンパス株式会社 撮像装置および撮像方法
US9402018B2 (en) * 2013-12-17 2016-07-26 Amazon Technologies, Inc. Distributing processing for imaging processing
CN108718397B (zh) * 2014-02-04 2021-10-08 英特尔公司 用于在帧速率上变频中进行帧重复控制的方法及设备
US20170186223A1 (en) * 2015-12-23 2017-06-29 Intel Corporation Detection of shadow regions in image depth data caused by multiple image sensors

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20090120159A (ko) * 2008-05-19 2009-11-24 삼성전자주식회사 영상합성장치 및 영상합성방법
US20100026839A1 (en) * 2008-08-01 2010-02-04 Border John N Method for forming an improved image using images with different resolutions
JP5395956B2 (ja) * 2010-07-02 2014-01-22 株式会社ソニー・コンピュータエンタテインメント 情報処理システムおよび情報処理方法
US20130335599A1 (en) * 2010-10-22 2013-12-19 University Of New Brunswick Camera Imaging Systems and Methods
US20150319326A1 (en) * 2014-05-02 2015-11-05 Arges Imaging, Inc. Systems, methods, apparatuses, and computer-readable storage media for collecting color information about an object undergoing a 3d scan

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112991188A (zh) * 2019-12-02 2021-06-18 RealMe重庆移动通信有限公司 图像处理方法及装置、存储介质、电子设备
CN112991188B (zh) * 2019-12-02 2023-06-27 RealMe重庆移动通信有限公司 图像处理方法及装置、存储介质、电子设备

Also Published As

Publication number Publication date
US20210209801A1 (en) 2021-07-08
US11195304B2 (en) 2021-12-07
KR102489279B1 (ko) 2023-01-18
KR20170092772A (ko) 2017-08-14

Similar Documents

Publication Publication Date Title
WO2018004238A1 (en) Apparatus and method for processing image
WO2018199542A1 (ko) 전자 장치 및 전자 장치의 영상 표시 방법
AU2017210821B2 (en) Electronic device and method for controlling the same
WO2016144102A1 (ko) 카메라 모듈을 포함하는 전자 장치 및 전자 장치의 이미지 처리 방법
WO2018043884A1 (ko) 카메라를 제어하기 위한 방법 및 그 전자 장치
WO2018169273A1 (en) Method for providing different indicator for image based on shooting mode and electronic device thereof
WO2017135675A1 (ko) 이미지 처리장치 및 방법
WO2018182292A1 (en) Electronic device and control method thereof
WO2016137187A1 (en) Apparatus and method for providing screen mirroring service
WO2018128421A1 (en) Image capturing method and electronic device
WO2018174648A1 (ko) 전자 장치 및 이를 이용한 카메라 촬영 환경 및 장면에 따른 영상 처리 방법
WO2017039396A1 (ko) 초광각 광학계
WO2018048177A1 (ko) 전자 장치 및 복수의 영상을 처리하는 방법
WO2017026709A1 (ko) 전자 기기의 해상도 조정 방법 및 장치
WO2017052113A1 (ko) 전자 장치 및 촬영 방법
WO2015108371A1 (en) Method and apparatus for controlling user interface
WO2017119662A1 (en) Electronic device and operating method thereof
WO2017209446A1 (en) Electronic device and information processing system including the same
WO2018174674A1 (en) Electronic device and method for authenticating biometric data thorough plural cameras
WO2017111408A1 (en) Apparatus and method for synchronizing data of electronic device
WO2018080244A1 (ko) 전방위 영상을 획득하는 방법 및 장치
WO2017171248A1 (ko) 이미지를 처리하기 위한 전자 장치 및 방법
WO2018034418A1 (ko) 이미지 신호 처리 방법, 이미지 신호 프로세서, 및 전자 장치
WO2017195993A2 (en) Method and electronic device for verifying light source of images
WO2017111291A1 (en) Electronic device and method of controlling the same

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 17747720

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 17747720

Country of ref document: EP

Kind code of ref document: A1