WO2016153309A1 - Image synthesis apparatus and method - Google Patents

Image synthesis apparatus and method Download PDF

Info

Publication number
WO2016153309A1
WO2016153309A1 PCT/KR2016/003037 KR2016003037W WO2016153309A1 WO 2016153309 A1 WO2016153309 A1 WO 2016153309A1 KR 2016003037 W KR2016003037 W KR 2016003037W WO 2016153309 A1 WO2016153309 A1 WO 2016153309A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
target image
value
sat
correcting
Prior art date
Application number
PCT/KR2016/003037
Other languages
French (fr)
Korean (ko)
Inventor
전수영
권지용
Original Assignee
스타십벤딩머신 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 스타십벤딩머신 주식회사 filed Critical 스타십벤딩머신 주식회사
Publication of WO2016153309A1 publication Critical patent/WO2016153309A1/en

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2628Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/265Mixing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/73Colour balance circuits, e.g. white balance circuits or colour temperature control

Definitions

  • the present invention relates to an image synthesizing apparatus and method, and more particularly, to an image synthesizing apparatus and method for providing a natural synthesis result.
  • the technique of separating a specific image from the source image is called matting.However, even if the specific image is separated using the matting technique, if the color difference between the separated image and the target image is severe, the viewer may synthesize the image. This felt unnatural.
  • the background art described above is technical information that the inventors possess for the derivation of the present invention or acquired in the derivation process of the present invention, and is not necessarily a publicly known technique disclosed to the general public before the application of the present invention. .
  • One embodiment of the present invention is to provide an image synthesizing apparatus and method for providing a natural synthesis result.
  • an image synthesizing apparatus comprises an extraction unit for extracting a specified image to be synthesized from the source image; A synthesizer which synthesizes the designated image with a target image; And a corrector configured to correct a synthesized image generated by combining the designated image and the target image, wherein the corrector corrects the synthesized image based on an illumination value ratio, and the synthesized image based on a chroma value. And a brightness distribution corrector for correcting the synthesized image based on a saturation corrector and a brightness histogram.
  • the image corrector may calculate a correlation color temperature of each of the designated image and the target image, and correct the synthesized image by using an illumination value ratio based on each illumination value obtained from the correlation color temperature.
  • the image corrector generates a corrected designated image by multiplying the designated image by a power of a ratio of an illumination value of the target image to an illumination value of the designated image, and generates a corrected image of the designated image with respect to an illumination value of the target image.
  • the corrected target image may be generated by multiplying the target image by a power of a ratio of illumination values.
  • the number of times the power of the ratio of the illumination value of the target image to the illumination value of the target image and the number of times the power of the ratio of the illumination value of the target image to the illumination value of the target image may be based on correction information. have.
  • the image corrector may correct only the target image when the correction information is 0, and correct only the designated image when the correction information is 1.
  • the image corrector may correct the synthesized image based on Equation 1 and Equation 2.
  • T ' t (L S / L T ) (1-m) * T t
  • the saturation correction unit may correct the synthesized image by correcting an average of respective saturation values when converting each of the designated image and the target image into a Hue Saturation Value (HSV) color space.
  • HSV Hue Saturation Value
  • the saturation correction unit may correct the synthesized image based on Equations 3 and 4.
  • ⁇ Sat (S ′ t ) is the average chroma value on each pixel of the corrected designated image
  • Sat (T ′ t ) is the average chroma value on each pixel of the corrected target image
  • Sat (S t ) is the designated image at time t
  • the average chroma value on each pixel of, Sat (T t ) is the average chroma value on each pixel of the target image at time t
  • m is correction information
  • Sat S and Sat T are HSV (designated image and target image at time t, respectively).
  • Hue Saturation Value Mean of S (saturation) value when converted to color space ⁇
  • the brightness distribution corrector may correct the distribution of brightness values of the synthesized image based on a histogram transformation to correct the synthesized image.
  • the brightness distribution corrector may correct the distribution of brightness values of the synthesized image based on a histogram transformation to correct the synthesized image.
  • the brightness distribution corrector may correct the composite image based on Equation 5 and Equation 6.
  • V (S ′ t ) (1-m) V (S t ) + mA T -1A S (V (S t ))
  • V (T ′ t ) mV (T t ) + (1-m) A S -1A T (V (S t ))
  • V (S ' t ) is the brightness value of the corrected target image
  • V (T' t ) is the brightness value of the corrected target image
  • a S and A T are the accumulated values of the specified image and the target image for time t, respectively.
  • V (S t ) is the brightness value V (T t ) of the target image at time t ⁇
  • a method of correcting an image by an image correcting apparatus comprising: extracting a designated image to be synthesized from a source image; Synthesizing the designated image with a target image; And correcting the synthesized image generated by combining the designated image and the target image, wherein the correcting comprises correcting the synthesized image based on at least one of an illumination value ratio, a saturation value, and a brightness histogram. do.
  • the correcting may include calculating a correlation color temperature of each of the designated image and the target image when correcting the composite image based on the ratio of the illumination value, and calculating an illumination value based on each illumination value obtained from the correlation color temperature.
  • the composite image may be corrected using a ratio.
  • Correcting the composite image by using an illumination value ratio based on each illumination value obtained from the correlated color temperature comprises applying the designated image to a power of a ratio of an illumination value of the target image to an illumination value of the designated image.
  • the corrected target image may be generated by multiplying and generating a corrected target image by multiplying the target image by a power of a ratio of the illumination value of the target image to the illumination value of the target image.
  • the number of times the power of the ratio of the illumination value of the target image to the illumination value of the target image and the number of times the power of the ratio of the illumination value of the target image to the illumination value of the target image may be based on correction information. have.
  • the correcting may include correcting only the target image when the correction information is 0, and correcting only the designated image when the correction information is 1.
  • the composite image may be corrected based on Equation 1 and Equation 2.
  • T ' t (L S / L T ) (1-m) * T t
  • T t is the target image at time t
  • L s is the illumination value of S t
  • L T is the illumination value of T t
  • S ' t is the corrected specified image
  • T ' t is the corrected target image
  • m is the correction information
  • the average of each saturation value is corrected when each of the designated image and the target image is converted into a Hue Saturation Value (HSV) color space.
  • the composite image may be corrected.
  • the synthesized image may be corrected based on Equations 3 and 4.
  • ⁇ Sat (S ′ t ) is the average chroma value on each pixel of the corrected designated image
  • Sat (T ′ t ) is the average chroma value on each pixel of the corrected target image
  • Sat (S t ) is the designated image at time t
  • the average chroma value on each pixel of, Sat (T t ) is the average chroma value on each pixel of the target image at time t
  • m is correction information
  • Sat S and Sat T are HSV (designated image and target image at time t, respectively).
  • Hue Saturation Value Mean of S (saturation) value when converted to color space ⁇
  • the synthesized image when correcting the synthesized image based on the brightness histogram, the synthesized image may be corrected by correcting a distribution of brightness values of the synthesized image based on a histogram transformation.
  • the correcting may include calculating a histogram on each of the designated image and the target image, and correcting the composite image by converting brightness values such that the calculated histograms have a similar shape.
  • the correcting may include correcting the composite image based on Equation 5 and Equation 6.
  • V (S ′ t ) (1-m) V (S t ) + mA T -1A S (V (S t ))
  • V (T ′ t ) mV (T t ) + (1-m) A S -1A T (V (S t ))
  • V (S ' t ) is the brightness value of the corrected target image
  • V (T' t ) is the brightness value of the corrected target image
  • a S and A T are the accumulated values of the specified image and the target image for time t, respectively.
  • V (S t ) is the brightness value V (T t ) of the target image at time t ⁇
  • an embodiment of the present invention can provide an apparatus and method for providing a natural synthesis result.
  • any one of the problem solving means of the present invention it is possible to correct the synthesized video in a short time based on the ratio of the illumination value.
  • the synthesized video can be corrected in a short time based on the saturation.
  • any one of the problem solving means of the present invention it is possible to correct the synthesized image in a short time based on the brightness histogram.
  • FIG. 1 is a block diagram of an image synthesizing apparatus according to an embodiment of the present invention.
  • FIG. 2 is a block diagram of a correction unit according to an embodiment of the present invention.
  • FIG. 3 is a flowchart illustrating an image synthesizing method according to an embodiment of the present invention.
  • FIG. 1 is a block diagram of an image synthesizing apparatus according to an embodiment of the present invention.
  • An image synthesizing apparatus includes an input unit 100 for receiving a source image and a target image.
  • the input unit 100 may receive an alpha map image.
  • the source image refers to an image containing an image to be synthesized
  • the designated image refers to the image to be synthesized
  • the target image refers to a target to which the designated image is synthesized.
  • the image synthesizing apparatus may further include an extractor 200 for extracting a designated image.
  • the user may select and designate the image of the specific region from the source image as a designated image to synthesize an image of a certain region of the source image into the target image, that is, add it to the target image, and the extractor 200 may According to a user's instruction, a designated image may be designated among the source images, and the specified image may be extracted. According to an embodiment of the present invention, the designated image may be a foreground, a region of interest (ROI) set by a user, or set by a device.
  • ROI region of interest
  • the extractor 200 may extract the designated image from the source image based on the alpha map image. Extracting a designated image using an alpha map is a known technique, and a description thereof will be omitted.
  • the source image may be a still image or a video
  • the target image may also be a still image or a video.
  • the source image and the target image are assumed to be video.
  • the synthesis unit 300 synthesizes the extracted designated image with the target image.
  • the synthesizer 300 synthesizes the designated image and the target image. Therefore, the synthesized image may include the target image and the extracted designated image.
  • the correction unit 400 corrects the synthesized image. A detailed process of correcting the synthesized image to the natural image by the correction unit 400 will be described later.
  • the output unit 500 outputs the corrected image.
  • the output unit 500 may output the corrected image to a display device provided separately or through a separate printing device.
  • the above-described image synthesizing apparatus may be implemented as an electronic device.
  • the electronic device may be a server itself, or may be implemented as a computer, a portable terminal, a television, a wearable device, or the like, which may be connected to a remote server through a network as a user terminal, or may be connected to another user terminal and a server. .
  • the image synthesizing apparatus may be implemented by one electronic device, or may be implemented by various electronic devices.
  • the image synthesizing apparatus may be implemented on a user terminal or on a server communicating with a client installed with a client through a network.
  • FIG. 2 is a block diagram of a correction unit according to an embodiment of the present invention.
  • the corrector 400 may include at least one of an illumination value corrector 410, a saturation corrector 420, and a brightness distribution corrector 430. .
  • the correction unit 400 may determine the degree of correction of the designated image and the target image based on the correction information.
  • the illumination value correction unit 410 corrects the composite image based on the ratio of the illumination values.
  • the image corrector 410 calculates the color temperature and calculates an illumination value based on the calculated result value.
  • Color temperature is a numerical representation of the color of a light source using absolute temperature. Color temperature can be used to infer which light source the image was taken from. Color temperature is also closely related to the white balance of the image.
  • the image corrector 410 may calculate a correlated color temperature and correct the synthesized image based on the calculated result value.
  • the image correction unit 410 may obtain the illumination value L S based on the correlation color temperature value for the designated image S t and obtain the illumination value L T based on the correlation color temperature value for the target image T t .
  • L S is the illumination value of S t
  • L T is the illumination value of T t .
  • a color value RGB of a specific image is converted into an XYZ stimulus value of a CIE coordinate system.
  • X, Y, and Z are the stimulus values received by cone cells receiving short, medium, and long wavelengths, respectively.
  • the XYZ stimulus value when Y is equal to or greater than a predetermined reference value is extracted to calculate an average value, and the calculated average value is converted into a color temperature.
  • the present invention is applicable to the case of obtaining a correlation color temperature value based on a known method in addition to the above method.
  • the image corrector 410 may correct the synthesized image based on Equations 1 and 2 below.
  • T ' t (L S / L T ) (1-m) * T t
  • the image corrector 410 corrects the composite image based on the ratio of the illumination values.
  • the image corrector 410 may correct the synthesized image based on an illumination value of each of the designated image and the target image.
  • the power is proportional to the power of the ratio of the illumination value of the target image to the illumination value of the corrected designated image S ′ t specified image.
  • the illumination value correcting unit 410 generates a corrected designated image by multiplying the specified image by a power of a ratio of the illumination value of the target image to the illumination value of the designated image.
  • the ratio of the corrected target image T ′ t target image to the illumination value of the designated image is proportional to the power square.
  • the image corrector 410 generates the corrected target image by multiplying the target image by a power of a ratio of the illumination value of the designated image to the illumination value of the target image.
  • the number of powers of the ratio of the illumination values of the target image to the illumination values of the target image and the number of powers of the ratio of the illumination values of the target image to the illumination values of the target image Based on the correction information m. Also, as the illumination value corrector 410 multiplies the specified image by the ratio of the illumination value of the target image to the illumination value of the specified image, the target image is not squared by the ratio of the illumination value of the specified image to the illumination value of the target image. You may not.
  • the image corrector 410 corrects only the target image without touching the designated image when m is 0, and corrects only the designated image without touching the target image when m is 1.
  • the value of m may be preset or determined by user input. It may also be calculated through a separate algorithm.
  • the saturation correction unit 420 corrects the synthesized image based on the saturation value.
  • the saturation correction unit 420 may correct the synthesized image based on the chroma values of each of the designated image and the target image.
  • the saturation correction unit 420 may correct the synthesized image by correcting the saturation average value of the synthesized image.
  • the saturation correction unit 420 converts each of S t and T t into a Hue Saturation Value (HSV) color space
  • HSV Hue Saturation Value
  • Equations 3 and 4 Based on the synthesized image can be corrected. Since the present invention utilizes the average of the S (saturation) values, the correction can be performed with high efficiency.
  • Sat (S ′ t ) is the average chroma value on each pixel of the corrected designated image
  • Sat (T ′ t ) is the average chroma value on each pixel of the corrected target image
  • Sat (S t ) is the designated image.
  • the saturation average value on each pixel of, Sat (T t ) may mean a saturation average value on each pixel of the target image.
  • the saturation correction unit 420 may correct the synthesized image based on the difference between Sat T and Sat S. Referring to Equation 3, the saturation correction unit 420 may correct Sat (S t ) based on the value of Sat T minus Sat S. Referring to Equation 4, the saturation correction unit 420 may determine from Sat S Sat (T t ) can be corrected based on subtracting Sat T.
  • the saturation correction unit 420 may correct a Sat (S t) to Sat (S 't) plus m times the ppaengap Sat Sat S from T.
  • the saturation correction unit 420 may correct a Sat (T t) for the ppaengap (1-m) times in addition Sat (T 't) to Sat Sat T from S. That is, the number of values added to Sat (S t ) and Sat (T t ), respectively, may be based on the correction information m.
  • the saturation correction unit 420 corrects only the target image without touching the designated image when m is 0, and corrects only the designated image without touching the target image when m is 1.
  • the value of m may be preset or determined by user input. It may also be calculated through a separate algorithm.
  • the brightness distribution correction unit 430 corrects the synthesized image based on the brightness histogram.
  • the brightness distribution correction unit 430 may correct the synthesized image based on the brightness histogram of each of the designated image and the target image.
  • the brightness distribution correction unit 430 may correct the synthesized image by histogram converting the distribution of brightness values of the synthesized image.
  • the synthesized image may be corrected using only an average of the V (brightness) value, that is, the brightness value, during the HSV color space conversion.
  • the brightness value is closely related to the shape of the object in the image, the efficiency is low when the composite image is corrected using only the average of the brightness values.
  • the brightness distribution correction unit 430 corrects the composite image in consideration of the distribution of the brightness values as well as the brightness values, high efficiency can be guaranteed.
  • the brightness distribution correction unit 430 corrects the distribution of brightness values based on the histogram transformation.
  • the brightness distribution correction unit 430 calculates and calculates histograms H S and H T for the brightness values V (S t ) and V (T t ) of the respective images S t and T t .
  • Each brightness value is converted so that each histogram is similar to each other.
  • the brightness distribution correction unit 430 converts the brightness value based on Equations 5 and 6 below.
  • V (S ′ t ) (1-m) V (S t ) + mA T -1A S (V (S t ))
  • V (T't) mV (T t) + (1 - m) A S -1 ⁇ A T (V (S t))
  • V (S ' t ) is the brightness value of the corrected target image
  • V (T' t ) is the brightness value of the corrected target image
  • a S and A T are the cumulative histograms of the target image and the target image for time t, respectively.
  • the monotonic increasing function for, V (S t ) is the brightness value V of the specified image at time t
  • (T t ) is the brightness value of the target image at time t
  • m is correction information.
  • FIG. 3 is a flowchart illustrating an image synthesizing method according to an embodiment of the present invention.
  • the image synthesizing method according to the embodiment shown in FIG. 3 includes steps processed in time series in the image synthesizing apparatus shown in FIG. 1. Therefore, even if omitted below, the above description of the image synthesizing apparatus shown in FIG. 1 may be applied to the image synthesizing method according to the exemplary embodiment shown in FIG. 3.
  • the input unit 100 receives a source image and a target image (S401).
  • the input unit may further receive an alpha map image.
  • the extractor 200 extracts a designated image from the source image (S403).
  • the extractor 200 may extract the designated image from the source image based on the alpha map image.
  • the synthesis unit 300 synthesizes the designated image with the target image (S405).
  • the correction unit 400 corrects the synthesized image (S407).
  • the corrector 400 may correct the synthesized image based on at least one of a ratio, a saturation value, and a brightness histogram of the illumination value.
  • the correction unit may correct the synthesized image in a predetermined order, and may simultaneously perform the correction.
  • the output unit 500 outputs the corrected image (S409).
  • the output unit 500 may output the corrected image to a display device provided separately or through a separate printing device.
  • the image synthesizing method according to the embodiment described with reference to FIG. 3 may also be implemented in the form of a recording medium including instructions executable by a computer, such as a program module executed by a computer.
  • Computer readable media can be any available media that can be accessed by a computer and includes both volatile and nonvolatile media, removable and non-removable media.
  • computer readable media may include both computer storage media and communication media.
  • Computer storage media includes both volatile and nonvolatile, removable and non-removable media implemented in any method or technology for storage of information such as computer readable instructions, data structures, program modules or other data.
  • Communication media typically includes computer readable instructions, data structures, program modules, or other data in a modulated data signal such as a carrier wave, or other transmission mechanism, and includes any information delivery media.
  • the image synthesis method may be implemented as a computer program (or computer program product) including instructions executable by a computer.
  • the computer program includes programmable machine instructions processed by the processor and may be implemented in a high-level programming language, an object-oriented programming language, an assembly language, or a machine language.
  • the computer program may also be recorded on tangible computer readable media (eg, memory, hard disks, magnetic / optical media or solid-state drives, etc.).
  • the image synthesizing method may be implemented by executing the computer program as described above by the computing device.
  • the computing device may include at least a portion of a processor, a memory, a storage device, a high speed interface connected to the memory and a high speed expansion port, and a low speed interface connected to the low speed bus and the storage device.
  • a processor may include at least a portion of a processor, a memory, a storage device, a high speed interface connected to the memory and a high speed expansion port, and a low speed interface connected to the low speed bus and the storage device.
  • Each of these components are connected to each other using a variety of buses and may be mounted on a common motherboard or otherwise mounted in a suitable manner.
  • the processor may process instructions within the computing device, such as to display graphical information for providing a graphical user interface (GUI) on an external input, output device, such as a display connected to a high speed interface. Instructions stored in memory or storage. In other embodiments, multiple processors and / or multiple buses may be used with appropriately multiple memories and memory types.
  • the processor may also be implemented as a chipset consisting of chips comprising a plurality of independent analog and / or digital processors.
  • the memory also stores information within the computing device.
  • the memory may consist of a volatile memory unit or a collection thereof.
  • the memory may consist of a nonvolatile memory unit or a collection thereof.
  • the memory may also be other forms of computer readable media, such as, for example, magnetic or optical disks.
  • the storage device can provide a large amount of storage space to the computing device.
  • the storage device may be a computer readable medium or a configuration including such a medium, and may include, for example, devices or other configurations within a storage area network (SAN), and may include a floppy disk device, a hard disk device, an optical disk device, Or a tape device, flash memory, or similar other semiconductor memory device or device array.
  • SAN storage area network

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)

Abstract

An image synthesis according to an embodiment of the present invention comprises: an extraction unit which extracts a designated image to be synthesized from a source image; a synthesis unit which synthesizes the designated image with a target image; and a correction unit which corrects a synthesized image which has been generated by the synthesis of the designated image and the target image, wherein the correction unit comprises at least one of an image correction unit for correcting the synthesized image on the basis of a ratio of illumination values, a saturation correction unit for correcting the synthesized image on the basis of a saturation value, and a brightness distribution correction unit for correcting the synthesized image on the basis of a brightness histogram.

Description

영상 합성 장치 및 방법Image Synthesis Device and Method
본 발명은 영상 합성 장치 및 방법에 관한 것으로, 보다 상세하게는 자연스러운 합성 결과를 제공하는 영상 합성 장치 및 방법에 관한 것이다.The present invention relates to an image synthesizing apparatus and method, and more particularly, to an image synthesizing apparatus and method for providing a natural synthesis result.
본 발명은 2015년 3월 25일 출원된 한국 특허출원 제10-2015-0041759의 출원일의 이익을 주장하며, 그 내용 전부는 본 명세서에 포함된다. The present invention claims the benefit of the filing date of Korean Patent Application No. 10-2015-0041759, filed March 25, 2015, the entire contents of which are incorporated herein.
일반적으로 영상 합성을 위해서는 소스 영상에서 특정 영역만을 추출하고, 추출된 영상을 타겟 영상에 붙여 넣는 과정을 거치게 된다.In general, for image synthesis, only a specific region is extracted from a source image, and the extracted image is pasted into a target image.
이러한 영상 합성은 각각의 다른 영상을 합성하기 때문에, 합성 결과가 자연스러워 보이기 위해서는 별도의 과정이 필요하다.Since the image synthesis synthesizes different images, a separate process is required for the synthesis result to look natural.
합성 결과가 자연스러워 보이기 위한 기술의 일 예로 한국 등록특허 제10-0495191호(발명의 명칭: 영상 합성기 및 영상 합성 방법, 공개일: 1999.07.26)가 있다.An example of a technique for the synthesis result to look natural is Korean Patent No. 10-0495191 (name of the invention: image synthesizer and image synthesis method, publication date: July 26, 1999).
소스 영상에서 특정 영상을 분리하는 기술을 매팅(matting)이라고 부르는데, 이러한 매팅 기술을 이용하여 아무리 정교하게 특정 영상을 분리하였다 하더라도, 분리된 영상과 타겟 영상간에 색상차이가 심하면, 관찰자는 합성된 영상이 자연스럽지 못하게 느껴졌다.The technique of separating a specific image from the source image is called matting.However, even if the specific image is separated using the matting technique, if the color difference between the separated image and the target image is severe, the viewer may synthesize the image. This felt unnatural.
종래에는 후보정을 통해 이러한 문제를 해결했는데, 동영상 등에서는 소스 영상과 타겟 영상이 실시간으로 변화하여, 후보정을 통해 이러한 문제를 해결하는 데에는 많은 노력과 시간이 소요되었다.Conventionally, such problems have been solved through candidate candidates, but in video, source images and target images are changed in real time, and it takes a lot of effort and time to solve these problems through candidate candidates.
따라서 빠른 시간에 합성된 영상을 보정할 수 있는 기술이 요구되고 있는 실정이다.Therefore, there is a demand for a technology capable of correcting synthesized images in a short time.
한편, 전술한 배경기술은 발명자가 본 발명의 도출을 위해 보유하고 있었거나, 본 발명의 도출 과정에서 습득한 기술 정보로서, 반드시 본 발명의 출원 전에 일반 공중에게 공개된 공지기술이라 할 수는 없다.On the other hand, the background art described above is technical information that the inventors possess for the derivation of the present invention or acquired in the derivation process of the present invention, and is not necessarily a publicly known technique disclosed to the general public before the application of the present invention. .
본 발명의 일실시예는 자연스러운 합성 결과를 제공하는 영상 합성 장치 및 방법을 제공하는 데에 목적이 있다. One embodiment of the present invention is to provide an image synthesizing apparatus and method for providing a natural synthesis result.
상술한 기술적 과제를 달성하기 위한 기술적 수단으로서, 본 발명의 실시예에 따른 영상 합성 장치는 소스 영상으로부터 합성하고자 하는 지정 영상을 추출하는 추출부; 상기 지정 영상을 타겟 영상과 합성하는 합성부; 및 상기 지정 영상 및 상기 타겟 영상의 합성으로 생성된 합성 영상을 보정하는 보정부를 포함하고, 상기 보정부는 조명값 비율에 기초하여 상기 합성 영상을 보정하는 영상 보정부, 채도값에 기초하여 상기 합성 영상을 보정하는 채도 보정부 및 명도 히스토그램에 기초하여 상기 합성 영상을 보정하는 명도 분포 보정부 중 적어도 하나 이상을 포함한다.As a technical means for achieving the above-described technical problem, an image synthesizing apparatus according to an embodiment of the present invention comprises an extraction unit for extracting a specified image to be synthesized from the source image; A synthesizer which synthesizes the designated image with a target image; And a corrector configured to correct a synthesized image generated by combining the designated image and the target image, wherein the corrector corrects the synthesized image based on an illumination value ratio, and the synthesized image based on a chroma value. And a brightness distribution corrector for correcting the synthesized image based on a saturation corrector and a brightness histogram.
상기 영상 보정부는, 상기 지정 영상 및 상기 타겟 영상 각각의 상관색온도를 계산하고, 상기 상관색온도로부터 구해진 각각의 조명값에 기초한 조명값 비율을 이용하여, 상기 합성 영상을 보정할 수 있다.The image corrector may calculate a correlation color temperature of each of the designated image and the target image, and correct the synthesized image by using an illumination value ratio based on each illumination value obtained from the correlation color temperature.
상기 영상 보정부는, 상기 지정 영상의 조명값에 대한 상기 타겟 영상의 조명값의 비의 거듭 제곱에 상기 지정 영상을 곱해 보정된 지정 영상을 생성하고, 상기 타겟 영상의 조명값에 대한 상기 지정 영상의 조명값의 비의 거듭 제곱에 상기 타겟 영상을 곱해 보정된 타겟 영상을 생성할 수 있다.The image corrector generates a corrected designated image by multiplying the designated image by a power of a ratio of an illumination value of the target image to an illumination value of the designated image, and generates a corrected image of the designated image with respect to an illumination value of the target image. The corrected target image may be generated by multiplying the target image by a power of a ratio of illumination values.
상기 지정 영상의 조명값에 대한 상기 타겟 영상의 조명값의 비의 거듭 제곱의 횟수 및 상기 타겟 영상의 조명값에 대한 상기 지정 영상의 조명값의 비의 거듭 제곱의 횟수는 보정 정보에 기초할 수 있다.The number of times the power of the ratio of the illumination value of the target image to the illumination value of the target image and the number of times the power of the ratio of the illumination value of the target image to the illumination value of the target image may be based on correction information. have.
상기 영상 보정부는, 상기 보정 정보가 0일 경우, 상기 타겟 영상만 보정하고, 상기 보정 정보가 1일 경우, 상기 지정 영상만 보정할 수 있다.The image corrector may correct only the target image when the correction information is 0, and correct only the designated image when the correction information is 1.
상기 영상 보정부는, 수식 1 및 수식 2에 기초하여 상기 합성 영상을 보정할 수 있다.The image corrector may correct the synthesized image based on Equation 1 and Equation 2.
-수식 1-Equation 1
S't = (LT/LS)m * St S ' t = (L T / L S ) m * S t
-수식 2-Formula 2-
T't = (LS/LT)(1-m) * Tt T ' t = (L S / L T ) (1-m) * T t
{여기서 St는 시간 t에서의 지정 영상, Tt 는 시간 t에서의 타겟 영상, LS는 St의 조명값, LT는 Tt의 조명값, S't는 보정된 지정 영상, T't는 보정된 타겟 영상, m은 보정 정보}{Where S t is the specified image at time t, T t Is the target image at time t, L S is the illumination value of S t , L T is the illumination value of T t , S ' t is the corrected designated image, T' t is the corrected target image, m is correction information}
상기 채도 보정부는, 상기 지정 영상 및 상기 타겟 영상 각각을 HSV(Hue Saturation Value) 색공간으로 변환하였을 때 각각의 채도값의 평균을 보정하여, 상기 합성 영상을 보정할 수 있다.The saturation correction unit may correct the synthesized image by correcting an average of respective saturation values when converting each of the designated image and the target image into a Hue Saturation Value (HSV) color space.
상기 채도 보정부는, 수식 3 및 수식 4에 기초하여 합성 영상을 보정할 수 있다.The saturation correction unit may correct the synthesized image based on Equations 3 and 4.
-수식 3-Formula 3
Sat(S′t) = Sat(St) + m(SatT - SatS)Sat (S ′ t ) = Sat (S t ) + m (Sat T -Sat S )
-수식 4-Equation 4
Sat(T′t) = Sat(Tt) + (1 - m)(SatS - SatT)Sat (T ′ t ) = Sat (T t ) + (1-m) (Sat S -Sat T )
{여기서 Sat(S′t)는 보정된 지정 영상의 각 픽셀상의 채도 평균값, Sat(T′t)는 보정된 타겟 영상의 각 픽셀상의 채도 평균값, Sat(St)는 시간 t에서의 지정 영상의 각 픽셀상의 채도 평균값, Sat(Tt)는 시간 t에서의 타겟 영상의 각 픽셀상의 채도 평균값, m은 보정 정보, SatS 및 SatT 는 각각 시간 t에서의 지정 영상 및 타겟 영상을 HSV(Hue Saturation Value) 색공간으로 변환하였을 때 S(채도)값의 평균}{Sat (S ′ t ) is the average chroma value on each pixel of the corrected designated image, Sat (T ′ t ) is the average chroma value on each pixel of the corrected target image, Sat (S t ) is the designated image at time t The average chroma value on each pixel of, Sat (T t ) is the average chroma value on each pixel of the target image at time t, m is correction information, and Sat S and Sat T are HSV (designated image and target image at time t, respectively). Hue Saturation Value) Mean of S (saturation) value when converted to color space}
상기 명도 분포 보정부는, 히스토그램 변환에 기초하여 상기 합성 영상의 명도값의 분포를 보정하여, 상기 합성 영상을 보정할 수 있다.The brightness distribution corrector may correct the distribution of brightness values of the synthesized image based on a histogram transformation to correct the synthesized image.
상기 명도 분포 보정부는, 히스토그램 변환에 기초하여 상기 합성 영상의 명도값의 분포를 보정하여, 상기 합성 영상을 보정할 수 있다.The brightness distribution corrector may correct the distribution of brightness values of the synthesized image based on a histogram transformation to correct the synthesized image.
상기 명도 분포 보정부는, 수식 5 및 수식 6에 기초하여 상기 합성 영상을 보정할 수 있다.The brightness distribution corrector may correct the composite image based on Equation 5 and Equation 6.
-수식 5-Equation 5
V (S′t) = (1 - m)V (St) + mAT -1 · AS (V (St))V (S ′ t ) = (1-m) V (S t ) + mA T -1A S (V (S t ))
-수식 6-Equation 6
V (T′t) = mV (Tt) + (1 - m)AS -1 · AT (V (St))V (T ′ t ) = mV (T t ) + (1-m) A S -1A T (V (S t ))
{여기서 V (S't)는 보정된 지정 영상의 명도값, V (T't)는 보정된 타겟 영상의 명도값, AS 및 AT는 각각 시간 t에 대한 지정 영상 및 타겟 영상의 누적 히스토그램에 대한 단조증가함수, V (St)는 시간 t에서의 지정 영상의 명도값 V (Tt)는 시간 t에서의 타겟 영상의 명도값}{Where V (S ' t ) is the brightness value of the corrected target image, V (T' t ) is the brightness value of the corrected target image, and A S and A T are the accumulated values of the specified image and the target image for time t, respectively. Monotonically increasing function for the histogram, V (S t ) is the brightness value V (T t ) of the target image at time t}
본 발명의 실시예에 따른 영상 보정 장치가 영상을 보정하는 방법에 있어서, 소스 영상으로부터 합성하고자 하는 지정 영상을 추출하는 단계; 상기 지정 영상을 타겟 영상과 합성하는 단계; 및 상기 지정 영상 및 상기 타겟 영상의 합성으로 생성된 합성 영상을 보정하는 단계를 포함하고, 상기 보정하는 단계는 조명값 비율, 채도값, 명도 히스토그램에 중 적어도 하나 이상에 기초하여 상기 합성 영상을 보정한다.A method of correcting an image by an image correcting apparatus according to an embodiment of the present invention, the method comprising: extracting a designated image to be synthesized from a source image; Synthesizing the designated image with a target image; And correcting the synthesized image generated by combining the designated image and the target image, wherein the correcting comprises correcting the synthesized image based on at least one of an illumination value ratio, a saturation value, and a brightness histogram. do.
상기 보정하는 단계는, 상기 조명값 비율에 기초하여 상기 합성 영상을 보정할 경우, 상기 지정 영상 및 상기 타겟 영상 의 각각의 상관색온도를 계산하고, 상기 상관색온도로부터 구해진 각각의 조명값에 기초한 조명값 비율을 이용하여, 상기 합성 영상을 보정할 수 있다.The correcting may include calculating a correlation color temperature of each of the designated image and the target image when correcting the composite image based on the ratio of the illumination value, and calculating an illumination value based on each illumination value obtained from the correlation color temperature. The composite image may be corrected using a ratio.
상기 상관색온도로부터 구해진 각각의 조명값에 기초한 조명값 비율을 이용하여, 상기 합성 영상을 보정하는 것은, 상기 지정 영상의 조명값에 대한 상기 타겟 영상의 조명값의 비의 거듭 제곱에 상기 지정 영상을 곱해 보정된 지정 영상을 생성하고, 상기 타겟 영상의 조명값에 대한 상기 지정 영상의 조명값의 비의 거듭 제곱에 상기 타겟 영상을 곱해 보정된 타겟 영상을 생성할 수 있다.Correcting the composite image by using an illumination value ratio based on each illumination value obtained from the correlated color temperature comprises applying the designated image to a power of a ratio of an illumination value of the target image to an illumination value of the designated image. The corrected target image may be generated by multiplying and generating a corrected target image by multiplying the target image by a power of a ratio of the illumination value of the target image to the illumination value of the target image.
상기 지정 영상의 조명값에 대한 상기 타겟 영상의 조명값의 비의 거듭 제곱의 횟수 및 상기 타겟 영상의 조명값에 대한 상기 지정 영상의 조명값의 비의 거듭 제곱의 횟수는 보정 정보에 기초할 수 있다.The number of times the power of the ratio of the illumination value of the target image to the illumination value of the target image and the number of times the power of the ratio of the illumination value of the target image to the illumination value of the target image may be based on correction information. have.
상기 보정하는 단계는, 상기 보정 정보가 0일 경우, 상기 타겟 영상만 보정하고, 상기 보정 정보가 1일 경우, 상기 지정 영상만 보정할 수 있다.The correcting may include correcting only the target image when the correction information is 0, and correcting only the designated image when the correction information is 1.
상기 보정하는 단계는, 수식 1 및 수식 2에 기초하여 상기 합성 영상을 보정할 수 있다.In the correcting, the composite image may be corrected based on Equation 1 and Equation 2.
-수식 1-Equation 1
S't = (LT/LS)m * St S ' t = (L T / L S ) m * S t
-수식 2-Equation 2
T't = (LS/LT)(1-m) * Tt T ' t = (L S / L T ) (1-m) * T t
{여기서 St는 시간 t에서의 지정 영상, Tt 는 시간 t에서의 타겟 영상, Ls는 St의 조명값, LT는 Tt의 조명값, S't는 보정된 지정 영상, T't는 보정된 타겟 영상, m은 보정 정보}{Where S t is the designated image at time t, T t is the target image at time t, L s is the illumination value of S t , L T is the illumination value of T t , S ' t is the corrected specified image, T ' t is the corrected target image, m is the correction information}
상기 보정하는 단계는, 상기 채도값에 기초하여 상기 합성 영상을 보정할 경우, 상기 지정 영상 및 상기 타겟 영상 각각을 HSV(Hue Saturation Value) 색공간으로 변환하였을 때 각각의 채도값의 평균을 보정하여, 상기 합성 영상을 보정할 수 있다.In the correcting step, when the composite image is corrected based on the saturation value, the average of each saturation value is corrected when each of the designated image and the target image is converted into a Hue Saturation Value (HSV) color space. The composite image may be corrected.
상기 보정하는 단계는, 수식 3 및 수식 4에 기초하여 합성 영상을 보정할 수 있다.In the correcting, the synthesized image may be corrected based on Equations 3 and 4.
-수식 3-Formula 3
Sat(S′t) = Sat(St) + m(SatT - SatS)Sat (S ′ t ) = Sat (S t ) + m (Sat T -Sat S )
-수식 4-Equation 4
Sat(T′t) = Sat(Tt) + (1 - m)(SatS - SatT)Sat (T ′ t ) = Sat (T t ) + (1-m) (Sat S -Sat T )
{여기서 Sat(S′t)는 보정된 지정 영상의 각 픽셀상의 채도 평균값, Sat(T′t)는 보정된 타겟 영상의 각 픽셀상의 채도 평균값, Sat(St)는 시간 t에서의 지정 영상의 각 픽셀상의 채도 평균값, Sat(Tt)는 시간 t에서의 타겟 영상의 각 픽셀상의 채도 평균값, m은 보정 정보, SatS 및 SatT 는 각각 시간 t에서의 지정 영상 및 타겟 영상을 HSV(Hue Saturation Value) 색공간으로 변환하였을 때 S(채도)값의 평균}{Sat (S ′ t ) is the average chroma value on each pixel of the corrected designated image, Sat (T ′ t ) is the average chroma value on each pixel of the corrected target image, Sat (S t ) is the designated image at time t The average chroma value on each pixel of, Sat (T t ) is the average chroma value on each pixel of the target image at time t, m is correction information, and Sat S and Sat T are HSV (designated image and target image at time t, respectively). Hue Saturation Value) Mean of S (saturation) value when converted to color space}
상기 보정하는 단계는, 상기 명도 히스토그램에 기초하여 상기 합성 영상을 보정할 경우, 히스토그램 변환에 기초하여 상기 합성 영상의 명도값의 분포를 보정하여, 상기 합성 영상을 보정할 수 있다.In the correcting step, when correcting the synthesized image based on the brightness histogram, the synthesized image may be corrected by correcting a distribution of brightness values of the synthesized image based on a histogram transformation.
상기 보정하는 단계는, 상기 지정 영상 및 상기 타겟 영상 각각에 히스토그램을 계산하고, 계산된 각각의 히스토그램이 서로 비슷한 형태가 되도록 명도값을 변환시켜 상기 합성 영상을 보정할 수 있다.The correcting may include calculating a histogram on each of the designated image and the target image, and correcting the composite image by converting brightness values such that the calculated histograms have a similar shape.
상기 보정하는 단계는, 수식 5 및 수식 6에 기초하여 상기 합성 영상을 보정할 수 있다.The correcting may include correcting the composite image based on Equation 5 and Equation 6.
-수식 5-Equation 5-
V (S′t) = (1 - m)V (St) + mAT -1 ·AS (V (St))V (S ′ t ) = (1-m) V (S t ) + mA T -1A S (V (S t ))
-수식 6-Equation 6
V (T′t) = mV (Tt) + (1 - m)AS -1 · AT (V (St))V (T ′ t ) = mV (T t ) + (1-m) A S -1A T (V (S t ))
{여기서 V (S't)는 보정된 지정 영상의 명도값, V (T't)는 보정된 타겟 영상의 명도값, AS 및 AT는 각각 시간 t에 대한 지정 영상 및 타겟 영상의 누적 히스토그램에 대한 단조증가함수, V (St)는 시간 t에서의 지정 영상의 명도값 V (Tt)는 시간 t에서의 타겟 영상의 명도값}{Where V (S ' t ) is the brightness value of the corrected target image, V (T' t ) is the brightness value of the corrected target image, and A S and A T are the accumulated values of the specified image and the target image for time t, respectively. Monotonically increasing function for the histogram, V (S t ) is the brightness value V (T t ) of the target image at time t}
전술한 본 발명의 과제 해결 수단 중 어느 하나에 의하면, 본 발명의 일실시예는 자연스러운 합성 결과를 제공하는 장치 및 방법을 제공 할 수 있다. According to any one of the problem solving means of the present invention described above, an embodiment of the present invention can provide an apparatus and method for providing a natural synthesis result.
또한, 본 발명의 과제 해결 수단 중 어느 하나에 의하면, 조명값의 비율에 기초하여, 합성된 영상을 단시간에 보정 할 수 있다. Further, according to any one of the problem solving means of the present invention, it is possible to correct the synthesized video in a short time based on the ratio of the illumination value.
또한, 본 발명의 과제 해결 수단 중 어느 하나에 의하면, 채도에 기초하여, 합성된 영상을 단시간에 보정 할 수 있다. In addition, according to any one of the problem solving means of the present invention, the synthesized video can be corrected in a short time based on the saturation.
또한, 본 발명의 과제 해결 수단 중 어느 하나에 의하면, 명도 히스토그램에 기초하여, 합성된 영상을 단시간에 보정 할 수 있다. Further, according to any one of the problem solving means of the present invention, it is possible to correct the synthesized image in a short time based on the brightness histogram.
본 발명에서 얻을 수 있는 효과는 이상에서 언급한 효과들로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.The effects obtainable in the present invention are not limited to the above-mentioned effects, and other effects not mentioned above may be clearly understood by those skilled in the art from the following description. will be.
도 1은 본 발명의 일실시예에 따른 영상 합성 장치의 블록도이다.1 is a block diagram of an image synthesizing apparatus according to an embodiment of the present invention.
도 2는 본 발명의 일실시예에 따른 보정부의 블록도이다.2 is a block diagram of a correction unit according to an embodiment of the present invention.
도 3은 본 발명의 일실시예에 따른 영상 합성 방법을 설명하기 위한 순서도이다. 3 is a flowchart illustrating an image synthesizing method according to an embodiment of the present invention.
아래에서는 첨부한 도면을 참조하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 본 발명의 실시예를 상세히 설명한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.DETAILED DESCRIPTION Hereinafter, exemplary embodiments of the present invention will be described in detail with reference to the accompanying drawings so that those skilled in the art may easily implement the present invention. As those skilled in the art would realize, the described embodiments may be modified in various different ways, all without departing from the spirit or scope of the present invention. In the drawings, parts irrelevant to the description are omitted in order to clearly describe the present invention, and like reference numerals designate like parts throughout the specification.
명세서 전체에서, 어떤 부분이 다른 부분과 "연결"되어 있다고 할 때, 이는 "직접적으로 연결"되어 있는 경우뿐 아니라, 그 중간에 다른 소자를 사이에 두고 "전기적으로 연결"되어 있는 경우도 포함한다. 또한 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미한다.Throughout the specification, when a part is "connected" to another part, this includes not only "directly connected" but also "electrically connected" with another element in between. . In addition, when a part is said to "include" a certain component, which means that it may further include other components, except to exclude other components unless otherwise stated.
이하 첨부된 도면을 참고하여 본 발명을 상세히 설명하기로 한다.Hereinafter, the present invention will be described in detail with reference to the accompanying drawings.
도 1은 본 발명의 일실시예에 따른 영상 합성 장치의 블록도이다.1 is a block diagram of an image synthesizing apparatus according to an embodiment of the present invention.
본 발명의 실시예에 따른 영상 합성 장치는 소스 영상 및 타겟 영상을 수신하는 입력부(100)를 포함한다. 본 발명의 일 실시예에 따르면 입력부(100)는 알파맵 영상을 수신할 수도 있다. An image synthesizing apparatus according to an embodiment of the present invention includes an input unit 100 for receiving a source image and a target image. According to an embodiment of the present invention, the input unit 100 may receive an alpha map image.
본 명세서에서, 소스 영상이란 합성하고자 하는 영상이 담긴 영상을 의미하고, 지정 영상이란 그 합성하고자 하는 영상을 의미하고, 타겟 영상이란 지정 영상이 합성되는 대상을 의미한다. In the present specification, the source image refers to an image containing an image to be synthesized, the designated image refers to the image to be synthesized, and the target image refers to a target to which the designated image is synthesized.
본 발명의 실시예에 따른 영상 합성 장치는 지정 영상을 추출하는 추출부(200)를 더 포함할 수 있다.The image synthesizing apparatus according to the embodiment of the present invention may further include an extractor 200 for extracting a designated image.
사용자는 소스 영상 중 어느 특정 영역의 영상을 타겟 영상에 합성하고자, 즉, 타겟 영상에 덧붙이고자, 그 특정 영역의 영상을 지정 영상으로서 소스 영상에서 선택 및 지정할 수 있고, 추출부(200)는 그러한 사용자의 지시에 따라 소스 영상 중 지정 영상을 지정할 수 있으며, 지정 영상을 추출할 수도 있다. 본 발명의 실시예에 따르면 지정 영상은 전경이거나, 사용자에 의해 설정되거나 장치에 의해 설정된 ROI(Region of Interest)일 수 있다.The user may select and designate the image of the specific region from the source image as a designated image to synthesize an image of a certain region of the source image into the target image, that is, add it to the target image, and the extractor 200 may According to a user's instruction, a designated image may be designated among the source images, and the specified image may be extracted. According to an embodiment of the present invention, the designated image may be a foreground, a region of interest (ROI) set by a user, or set by a device.
본 발명의 실시예에 따른 추출부(200)는 알파맵 영상에 기초하여 소스 영상에서 지정 영상을 추출할 수도 있다. 알파맵을 이용하여 지정 영상을 추출하는 것은 공지된 기술이므로, 이에 관련한 설명은 생략하겠다. The extractor 200 according to an embodiment of the present invention may extract the designated image from the source image based on the alpha map image. Extracting a designated image using an alpha map is a known technique, and a description thereof will be omitted.
한편, 본 명세서에서 소스 영상은 정지 영상일 수도 있고 동영상일 수도 있으며, 타겟 영상 역시 정지 영상일 수도 있고 동영상일 수도 있으나, 이하 소스 영상과 타겟 영상 모두 동영상인 경우로 가정하여 설명한다.Meanwhile, in the present specification, the source image may be a still image or a video, and the target image may also be a still image or a video. Hereinafter, the source image and the target image are assumed to be video.
합성부(300)는 추출된 지정 영상을 타겟 영상과 합성한다. 합성부(300)가 지정 영상과 타겟 영상을 합성한다. 따라서 합성 영상은 타겟 영상과 추출된 지정 영상을 포함할 수 있다.The synthesis unit 300 synthesizes the extracted designated image with the target image. The synthesizer 300 synthesizes the designated image and the target image. Therefore, the synthesized image may include the target image and the extracted designated image.
보정부(400)는 합성된 영상을 보정한다. 보정부(400)가 합성된 영상을 자연스러운 영상으로 보정하는 상세한 과정은 이하에서 후술 하겠다.The correction unit 400 corrects the synthesized image. A detailed process of correcting the synthesized image to the natural image by the correction unit 400 will be described later.
출력부(500)는 보정된 영상을 출력한다. 출력부(500)는 보정된 영상을 별도로 구비된 디스플레이장치로 출력할 수도 있으며, 별도의 인쇄장치를 통해 출력할 수도 있다. The output unit 500 outputs the corrected image. The output unit 500 may output the corrected image to a display device provided separately or through a separate printing device.
상술된 영상 합성 장치는 전자장치로서 구현될 수 있다. 이때 전자장치는 서버 그 자체이거나, 또는 사용자단말로서 네트워크를 통해 원격지의 서버에 접속하거나, 타 사용자단말 및 서버와 연결 가능한 컴퓨터나 휴대용 단말기, 텔레비전, 웨어러블 디바이스(Wearable Device) 등으로 구현될 수 있다.The above-described image synthesizing apparatus may be implemented as an electronic device. In this case, the electronic device may be a server itself, or may be implemented as a computer, a portable terminal, a television, a wearable device, or the like, which may be connected to a remote server through a network as a user terminal, or may be connected to another user terminal and a server. .
한편, 영상 합성 장치는 하나의 전자장치로 구현될 수 있음은 물론, 여러 전자장치로 구현될 수 있다. 예를 들어, 영상 합성 장치는, 사용자단말 상에서 구현되거나, 또는 클라이언트가 설치된 사용자단말과 상기 클라이언트와 네트워크를 통해 통신하는 서버 상에서 구현될 수 있다.Meanwhile, the image synthesizing apparatus may be implemented by one electronic device, or may be implemented by various electronic devices. For example, the image synthesizing apparatus may be implemented on a user terminal or on a server communicating with a client installed with a client through a network.
다음은 도 2를 참조하여 본 발명의 실시예에 따른 보정부(400)의 각 구성에 대해서 설명한다.Next, each configuration of the correction unit 400 according to an embodiment of the present invention will be described with reference to FIG. 2.
도 2는 본 발명의 일실시예에 따른 보정부의 블록도이다.2 is a block diagram of a correction unit according to an embodiment of the present invention.
도 2를 참조하면, 본 발명의 실시예에 따른 보정부(400)는 조명값 보정부(410), 채도 보정부(420) 및 명도 분포 보정부(430) 중 적어도 하나 이상을 포함할 수 있다.2, the corrector 400 according to an embodiment of the present invention may include at least one of an illumination value corrector 410, a saturation corrector 420, and a brightness distribution corrector 430. .
이하에서는 지정 영상의 시간 t에서의 이미지를 St, 타겟 영상의 시간 t에서의 이미지를 Tt, 보정된 지정 영상을 S't, 보정된 타겟 영상을 T't로 가정하여 설명하겠다. 또한 m은 보정 정보로 가정하여 설명하겠다. 본 명세서에서 보정 정보는 보정의 정도를 나타내는 파라미터 일 수 있다. 본 발명의 실시예에 따르면 보정부(400)는 보정 정보에 기초하여 지정 영상 및 타겟 영상의 보정 정도를 결정할 수 있다. Hereinafter, it is assumed that the image at time t of the designated image is S t , the image at time t of the target image is T t , the corrected designated image is S ' t , and the corrected target image is T' t . In addition, m is assumed to be correction information. In the present specification, the correction information may be a parameter indicating the degree of correction. According to an embodiment of the present invention, the correction unit 400 may determine the degree of correction of the designated image and the target image based on the correction information.
본 발명의 실시예에 따른 조명값 보정부(410)는 합성 영상을 조명값의 비율에 기초하여 보정한다.The illumination value correction unit 410 according to the embodiment of the present invention corrects the composite image based on the ratio of the illumination values.
본 발명의 실시예에 따른 영상 보정부(410)는 색온도를 계산하고, 계산된 결과값에 기초하여 조명값을 계산한다. 색온도는 광원의 색을 절대 온도를 이용해 숫자로 표시한 것이다. 색온도를 이용하면 해당 이미지가 어떠한 광원을 바탕으로 촬영되었는지를 유추할 수 있다. 또한 색온도는 이미지의 화이트 밸런스와 깊은 관계가 있다.The image corrector 410 according to the embodiment of the present invention calculates the color temperature and calculates an illumination value based on the calculated result value. Color temperature is a numerical representation of the color of a light source using absolute temperature. Color temperature can be used to infer which light source the image was taken from. Color temperature is also closely related to the white balance of the image.
특히 본 발명의 실시예에 따른 영상 보정부(410)는 상관색온도(Correlated Color Temperature)를 계산하고, 계산된 결과값에 기초하여 합성 영상을 보정할 수 있다. 보다 상세히 설명하면 영상 보정부(410)는 지정 영상St에 대한 상관색온도값에 기초하여 조명값 LS 를 구하고 타겟 영상Tt에 대한 상관색온도값에 기초하여 조명값 LT를 구할 수 있다. 여기서 LS는 St의 조명값이고, LT는 Tt의 조명값이다. In particular, the image corrector 410 according to the embodiment of the present invention may calculate a correlated color temperature and correct the synthesized image based on the calculated result value. In more detail, the image correction unit 410 may obtain the illumination value L S based on the correlation color temperature value for the designated image S t and obtain the illumination value L T based on the correlation color temperature value for the target image T t . Where L S is the illumination value of S t and L T is the illumination value of T t .
본 발명의 실시예에 따라 상관색온도값을 구하는 방법을 간략히 설명하면, 먼저 특정 영상의 색상값 RGB를 CIE 좌표계의 XYZ 자극값으로 변환한다. 여기서 X, Y, Z는 각각 단파장, 중파장, 장파장을 받아들이는 원추세포가 받아들인 자극값이다. 그 후, Y가 소정의 기준치 이상인 경우의 XYZ 자극값을 추출하여 평균값을 계산하고, 계산된 평균값을 색온도로 변환한다. A method of obtaining a correlation color temperature value according to an embodiment of the present invention will be briefly described. First, a color value RGB of a specific image is converted into an XYZ stimulus value of a CIE coordinate system. Where X, Y, and Z are the stimulus values received by cone cells receiving short, medium, and long wavelengths, respectively. Thereafter, the XYZ stimulus value when Y is equal to or greater than a predetermined reference value is extracted to calculate an average value, and the calculated average value is converted into a color temperature.
본 발명은 상기 방법 이외에도 기 공지된 방법에 기초하여 상관색온도값을 구하는 경우에도 적용이 가능하다.The present invention is applicable to the case of obtaining a correlation color temperature value based on a known method in addition to the above method.
본 발명의 실시예에 따른 영상 보정부(410)는 하기 수식 1 및 수식 2에 기초하여 합성 영상을 보정할 수 있다.The image corrector 410 according to the embodiment of the present invention may correct the synthesized image based on Equations 1 and 2 below.
-수식 1-Equation 1
S't = (LT/LS)m * St S ' t = (L T / L S ) m * S t
-수식 2-Equation 2
T't = (LS/LT)(1-m) * Tt T ' t = (L S / L T ) (1-m) * T t
상기 수식 1및 수식 2을 참조하면, 영상 보정부(410)는 조명값의 비율에 기초하여 합성 영상을 보정한다. 또한 영상 보정부(410)는 지정 영상 및 타겟 영상 각각의 조명값에 기초하여 합성 영상을 보정할 수 있다.Referring to Equations 1 and 2, the image corrector 410 corrects the composite image based on the ratio of the illumination values. In addition, the image corrector 410 may correct the synthesized image based on an illumination value of each of the designated image and the target image.
상기 수식 1을 참조하면, 보정된 지정 영상 S't 지정 영상의 조명값에 대한 타겟 영상의 조명값의 비의 거듭 제곱과 비례한다. 보다 상세히 설명하면, 조명값 보정부(410)는 지정 영상의 조명값에 대한 타겟 영상의 조명값의 비의 거듭 제곱에 지정 영상을 곱해 보정된 지정 영상을 생성한다.Referring to Equation 1, the power is proportional to the power of the ratio of the illumination value of the target image to the illumination value of the corrected designated image S ′ t specified image. In more detail, the illumination value correcting unit 410 generates a corrected designated image by multiplying the specified image by a power of a ratio of the illumination value of the target image to the illumination value of the designated image.
상기 수식 2를 참조하면, 보정된 타겟 영상 T't 타겟 영상의 조명값에 대한 지정 영상의 조명값의 비의 거듭 제곱과 비례한다. 영상 보정부(410)는 타겟 영상의 조명값에 대한 지정 영상의 조명값의 비의 거듭 제곱에 타겟 영상을 곱해 보정된 타겟 영상을 생성한다.Referring to Equation 2, the ratio of the corrected target image T ′ t target image to the illumination value of the designated image is proportional to the power square. The image corrector 410 generates the corrected target image by multiplying the target image by a power of a ratio of the illumination value of the designated image to the illumination value of the target image.
상기 수식 1 및 수식 2를 참조하면, 지정 영상의 조명값에 대한 타겟 영상의 조명값의 비의 거듭 제곱의 횟수 및 타겟 영상의 조명값에 대한 지정 영상의 조명값의 비의 거듭 제곱의 횟수는 보정 정보(m)에 기초한다. 또한 조명값 보정부(410)는 지정 영상을 지정 영상의 조명값에 대한 타겟 영상의 조명값의 비로 거듭 제곱할수록, 타겟 영상을 타겟 영상의 조명값에 대한 지정 영상의 조명값의 비로 거듭 제곱 하지 않을 수 있다.Referring to Equations 1 and 2, the number of powers of the ratio of the illumination values of the target image to the illumination values of the target image and the number of powers of the ratio of the illumination values of the target image to the illumination values of the target image Based on the correction information m. Also, as the illumination value corrector 410 multiplies the specified image by the ratio of the illumination value of the target image to the illumination value of the specified image, the target image is not squared by the ratio of the illumination value of the specified image to the illumination value of the target image. You may not.
영상 보정부(410)는 m이 0일 경우 지정 영상을 건드리지 않고 타겟 영상만을 보정하고, m이 1일 경우 타겟 영상을 건드리지 않고 지정 영상만을 보정한다. m의 값은 기 설정되어 있을 수도 있으며, 사용자 입력으로 결정될 수도 있다. 또한 별도의 알고리즘을 통해 계산될 수도 있다.The image corrector 410 corrects only the target image without touching the designated image when m is 0, and corrects only the designated image without touching the target image when m is 1. The value of m may be preset or determined by user input. It may also be calculated through a separate algorithm.
본 발명의 실시예에 따른 채도 보정부(420)는 합성 영상을 채도값에 기초하여 보정한다. 또한 채도 보정부(420)는 지정 영상 및 타겟 영상 각각의 채도값에 기초하여 합성 영상을 보정할 수도 있다. 보다 상세히 설명하면 채도 보정부(420)는 합성 영상의 채도 평균값을 보정하여, 합성 영상을 보정할 수 있다.The saturation correction unit 420 according to the embodiment of the present invention corrects the synthesized image based on the saturation value. In addition, the saturation correction unit 420 may correct the synthesized image based on the chroma values of each of the designated image and the target image. In more detail, the saturation correction unit 420 may correct the synthesized image by correcting the saturation average value of the synthesized image.
채도 보정부(420)는 St 및 Tt 각각을 HSV(Hue Saturation Value) 색공간으로 변환하였을 때, S(채도)값의 평균을 각각 SatS, SatT라고 할 때, 하기 수식 3 및 4에 기초하여 합성 영상을 보정할 수 있다. 본 발명은 S(채도)값의 평균을 활용하기 때문에 높은 효율성으로 보정을 수행할 수 있다.When the saturation correction unit 420 converts each of S t and T t into a Hue Saturation Value (HSV) color space, when the average of S (saturation) values is Sat S and Sat T , respectively, Equations 3 and 4 Based on the synthesized image can be corrected. Since the present invention utilizes the average of the S (saturation) values, the correction can be performed with high efficiency.
-수식 3-Formula 3
Sat(S′t) = Sat(St) + m(SatT -SatS)Sat (S ′ t ) = Sat (S t ) + m (Sat T -Sat S )
-수식 4-Equation 4
Sat(T′t) = Sat(Tt) + (1 - m)(SatS - SatT)Sat (T ′ t ) = Sat (T t ) + (1-m) (Sat S -Sat T )
수식 3 및 수식 4에서 Sat(S′t)는 보정된 지정 영상의 각 픽셀상의 채도 평균값, Sat(T′t)는 보정된 타겟 영상의 각 픽셀상의 채도 평균값, Sat(St)는 지정 영상의 각 픽셀상의 채도 평균값, Sat(Tt)는 타겟 영상의 각 픽셀상의 채도 평균값을 의미할 수 있다.In Equation 3 and Equation 4, Sat (S ′ t ) is the average chroma value on each pixel of the corrected designated image, Sat (T ′ t ) is the average chroma value on each pixel of the corrected target image, and Sat (S t ) is the designated image. The saturation average value on each pixel of, Sat (T t ) may mean a saturation average value on each pixel of the target image.
채도 보정부(420)는 SatT와 SatS의 차에 기초하여 합성 영상을 보정할 수 있다. 수식 3을 참조하면, 채도 보정부(420)는 SatT로부터 SatS를 뺀값에 기초하여 Sat(St)를 보정할 수 있으며, 수식 4를 참조하면, 채도 보정부(420)은 SatS로부터 SatT를 뺀값에 기초하여 Sat(Tt)를 보정할 수 있다. The saturation correction unit 420 may correct the synthesized image based on the difference between Sat T and Sat S. Referring to Equation 3, the saturation correction unit 420 may correct Sat (S t ) based on the value of Sat T minus Sat S. Referring to Equation 4, the saturation correction unit 420 may determine from Sat S Sat (T t ) can be corrected based on subtracting Sat T.
보다 상세하게, 채도 보정부(420)는 Sat(St)를 SatT로부터 SatS를 뺀값을 m회 더하여 Sat(S't)로 보정할 수 있다. 또한 채도 보정부(420)는 Sat(Tt)를 SatS로부터 SatT를 뺀값을 (1-m)회 더하여 Sat(T't)로 보정할 수 있다. 즉 Sat(St) 및Sat(Tt)에 각각 더해지는 값의 횟수는 보정 정보(m)에 기초할 수 있다. More specifically, the saturation correction unit 420 may correct a Sat (S t) to Sat (S 't) plus m times the ppaengap Sat Sat S from T. In addition, the saturation correction unit 420 may correct a Sat (T t) for the ppaengap (1-m) times in addition Sat (T 't) to Sat Sat T from S. That is, the number of values added to Sat (S t ) and Sat (T t ), respectively, may be based on the correction information m.
채도 보정부(420)는 m이 0일 경우 지정 영상을 건드리지 않고 타겟 영상만을 보정하고, m이 1일 경우 타겟 영상을 건드리지 않고 지정 영상만을 보정한다. m의 값은 기 설정되어 있을 수도 있으며, 사용자 입력으로 결정될 수도 있다. 또한 별도의 알고리즘을 통해 계산될 수도 있다.The saturation correction unit 420 corrects only the target image without touching the designated image when m is 0, and corrects only the designated image without touching the target image when m is 1. The value of m may be preset or determined by user input. It may also be calculated through a separate algorithm.
본 발명의 실시예에 따른 명도 분포 보정부(430)는 합성 영상을 명도 히스토그램에 기초하여 보정한다. 또한 명도 분포 보정부(430)는 지정 영상 및 타겟 영상 각각의 명도 히스토그램에 기초하여 합성 영상을 보정할 수도 있다. 보다 상세히 설명하면, 명도 분포 보정부(430)는 합성 영상의 명도값 분포를 히스토그램 변환하여 합성 영상을 보정할 수 있다.The brightness distribution correction unit 430 according to an embodiment of the present invention corrects the synthesized image based on the brightness histogram. In addition, the brightness distribution correction unit 430 may correct the synthesized image based on the brightness histogram of each of the designated image and the target image. In more detail, the brightness distribution correction unit 430 may correct the synthesized image by histogram converting the distribution of brightness values of the synthesized image.
합성 영상을 보정함에 있어서, HSV 색공간 변환 중 V(명도)값 즉 밝기값에 대한 평균만을 활용하여 합성 영상을 보정할 수 있다. 그러나 명도값은 이미지 내의 오브젝트의 형태와 밀접한 연관이 있기 때문에, 명도값에 대한 평균만을 활용하여 합성 영상을 보정하는 경우 효율성이 떨어진다.In correcting the synthesized image, the synthesized image may be corrected using only an average of the V (brightness) value, that is, the brightness value, during the HSV color space conversion. However, since the brightness value is closely related to the shape of the object in the image, the efficiency is low when the composite image is corrected using only the average of the brightness values.
따라서 본 발명의 실시예에 따른 명도 분포 보정부(430)는 명도값 뿐만 아니라 명도값의 분포를 고려하여 합성 영상을 보정하기 때문에, 높은 효율성을 보장 받을 수 있다.Therefore, since the brightness distribution correction unit 430 according to an embodiment of the present invention corrects the composite image in consideration of the distribution of the brightness values as well as the brightness values, high efficiency can be guaranteed.
명도 분포 보정부(430)는 히스토그램 변환에 기초하여 명도값의 분포를 보정한다. 보다 자세히 설명하면, 명도 분포 보정부(430)는 각각의 영상 St및 Tt의 명도값 V (St), V (Tt)에 대한 각각의 히스토그램 HS, HT를 계산하고, 계산된 각각의 히스토그램이 서로 비슷한 형태가 되도록 각각의 명도값을 변환한다.The brightness distribution correction unit 430 corrects the distribution of brightness values based on the histogram transformation. In more detail, the brightness distribution correction unit 430 calculates and calculates histograms H S and H T for the brightness values V (S t ) and V (T t ) of the respective images S t and T t . Each brightness value is converted so that each histogram is similar to each other.
이때 명도값을 변환하기 위해 명도 분포 보정부(430)는 아래 수식 5 및 수식 6에 기초하여 명도값을 변환한다.At this time, in order to convert the brightness value, the brightness distribution correction unit 430 converts the brightness value based on Equations 5 and 6 below.
-수식 5-Equation 5-
V (S′t) = (1 - m)V (St) + mAT -1 · AS (V (St))V (S ′ t ) = (1-m) V (S t ) + mA T -1A S (V (S t ))
-수식 6-Equation 6
V (T′t) = mV (Tt) + (1 - m)AS -1 · AT (V (St))V (T't) = mV (T t) + (1 - m) A S -1 · A T (V (S t))
여기서 V (S't)는 보정된 지정 영상의 명도값, V (T't)는 보정된 타겟 영상의 명도값, AS 및 AT는 각각 시간 t에 대한 지정 영상 및 타겟 영상의 누적 히스토그램에 대한 단조증가함수, V (St)는 시간 t에서의 지정 영상의 명도값 V, (Tt)는 시간 t에서의 타겟 영상의 명도값 및 m은 보정 정보를 나타낸다.Where V (S ' t ) is the brightness value of the corrected target image, V (T' t ) is the brightness value of the corrected target image, and A S and A T are the cumulative histograms of the target image and the target image for time t, respectively. The monotonic increasing function for, V (S t ) is the brightness value V of the specified image at time t, (T t ) is the brightness value of the target image at time t and m is correction information.
다음은 도 3을 참조하여 본 발명의 실시예에 따른 영상 합성 방법을 설명한다.Next, an image synthesis method according to an embodiment of the present invention will be described with reference to FIG. 3.
도 3은 본 발명의 일실시예에 따른 영상 합성 방법을 설명하기 위한 순서도이다. 3 is a flowchart illustrating an image synthesizing method according to an embodiment of the present invention.
도 3에 도시된 실시예에 따른 영상 합성 방법은 도 1에 도시된 영상 합성 장치에서 시계열적으로 처리되는 단계들을 포함한다. 따라서, 이하에서 생략된 내용이라고 하더라도 도 1에 도시된 영상 합성 장치에 관하여 이상에서 기술한 내용은 도 3에 도시된 실시예에 따른 영상 합성 방법에도 적용될 수 있다.The image synthesizing method according to the embodiment shown in FIG. 3 includes steps processed in time series in the image synthesizing apparatus shown in FIG. 1. Therefore, even if omitted below, the above description of the image synthesizing apparatus shown in FIG. 1 may be applied to the image synthesizing method according to the exemplary embodiment shown in FIG. 3.
입력부(100)는 소스 영상 및 타겟 영상을 수신한다(S401). 입력부는 알파맵 영상을 더 수신할 수도 있다.The input unit 100 receives a source image and a target image (S401). The input unit may further receive an alpha map image.
추출부(200)는 소스 영상에서 지정 영상을 추출한다(S403). 추출부(200)는 알파맵 영상에 기초하여 소스 영상에서 지정 영상을 추출할 수도 있다.The extractor 200 extracts a designated image from the source image (S403). The extractor 200 may extract the designated image from the source image based on the alpha map image.
합성부(300)는 지정 영상을 타겟 영상과 합성한다(S405).The synthesis unit 300 synthesizes the designated image with the target image (S405).
보정부(400)는 합성 영상을 보정한다(S407). 보정부(400)는 조명값의 비율, 채도값 및 명도 히스토그램 중 적어도 하나 이상에 기초하여 합성 영상을 보정할 수 있다. 조명값의 비율, 채도값 및 명도 히스토그램 중 복수의 요소에 기초하여 보정을 수행할 때, 보정부는 기 설정된 순서로 합성 영상을 보정할 수도 있으며, 동시에 보정을 수행할 수도 있다. The correction unit 400 corrects the synthesized image (S407). The corrector 400 may correct the synthesized image based on at least one of a ratio, a saturation value, and a brightness histogram of the illumination value. When the correction is performed based on a plurality of elements of the ratio of the illumination value, the saturation value, and the brightness histogram, the correction unit may correct the synthesized image in a predetermined order, and may simultaneously perform the correction.
출력부(500)는 보정된 영상을 출력한다(S409).The output unit 500 outputs the corrected image (S409).
출력부(500)는 보정된 영상을 별도로 구비된 디스플레이장치로 출력할 수도 있으며, 별도의 인쇄장치를 통해 출력할 수도 있다.The output unit 500 may output the corrected image to a display device provided separately or through a separate printing device.
도 3를 통해 설명된 실시예에 따른 영상 합성 방법은 컴퓨터에 의해 실행되는 프로그램 모듈과 같은 컴퓨터에 의해 실행가능한 명령어를 포함하는 기록 매체의 형태로도 구현될 수 있다. 컴퓨터 판독 가능 매체는 컴퓨터에 의해 액세스될 수 있는 임의의 가용 매체일 수 있고, 휘발성 및 비휘발성 매체, 분리형 및 비분리형 매체를 모두 포함한다. 또한, 컴퓨터 판독가능 매체는 컴퓨터 저장 매체 및 통신 매체를 모두 포함할 수 있다. 컴퓨터 저장 매체는 컴퓨터 판독가능 명령어, 데이터 구조, 프로그램 모듈 또는 기타 데이터와 같은 정보의 저장을 위한 임의의 방법 또는 기술로 구현된 휘발성 및 비휘발성, 분리형 및 비분리형 매체를 모두 포함한다. 통신 매체는 전형적으로 컴퓨터 판독가능 명령어, 데이터 구조, 프로그램 모듈, 또는 반송파와 같은 변조된 데이터 신호의 기타 데이터, 또는 기타 전송 메커니즘을 포함하며, 임의의 정보 전달 매체를 포함한다. The image synthesizing method according to the embodiment described with reference to FIG. 3 may also be implemented in the form of a recording medium including instructions executable by a computer, such as a program module executed by a computer. Computer readable media can be any available media that can be accessed by a computer and includes both volatile and nonvolatile media, removable and non-removable media. In addition, computer readable media may include both computer storage media and communication media. Computer storage media includes both volatile and nonvolatile, removable and non-removable media implemented in any method or technology for storage of information such as computer readable instructions, data structures, program modules or other data. Communication media typically includes computer readable instructions, data structures, program modules, or other data in a modulated data signal such as a carrier wave, or other transmission mechanism, and includes any information delivery media.
또한 본 발명의 일실시예에 따르는 영상 합성 방법은 컴퓨터에 의해 실행 가능한 명령어를 포함하는 컴퓨터 프로그램(또는 컴퓨터 프로그램 제품)으로 구현될 수도 있다. 컴퓨터 프로그램은 프로세서에 의해 처리되는 프로그래밍 가능한 기계 명령어를 포함하고, 고레벨 프로그래밍 언어(High-level Programming Language), 객체 지향 프로그래밍 언어(Object-oriented Programming Language), 어셈블리 언어 또는 기계 언어 등으로 구현될 수 있다. 또한 컴퓨터 프로그램은 유형의 컴퓨터 판독가능 기록매체(예를 들어, 메모리, 하드디스크, 자기/광학 매체 또는 SSD(Solid-State Drive) 등)에 기록될 수 있다. In addition, the image synthesis method according to an embodiment of the present invention may be implemented as a computer program (or computer program product) including instructions executable by a computer. The computer program includes programmable machine instructions processed by the processor and may be implemented in a high-level programming language, an object-oriented programming language, an assembly language, or a machine language. . The computer program may also be recorded on tangible computer readable media (eg, memory, hard disks, magnetic / optical media or solid-state drives, etc.).
따라서 본 발명의 일실시예에 따르는 영상 합성 방법은 상술한 바와 같은 컴퓨터 프로그램이 컴퓨팅 장치에 의해 실행됨으로써 구현될 수 있다. 컴퓨팅 장치는 프로세서와, 메모리와, 저장 장치와, 메모리 및 고속 확장포트에 접속하고 있는 고속 인터페이스와, 저속 버스와 저장 장치에 접속하고 있는 저속 인터페이스 중 적어도 일부를 포함할 수 있다. 이러한 성분들 각각은 다양한 버스를 이용하여 서로 접속되어 있으며, 공통 머더보드에 탑재되거나 다른 적절한 방식으로 장착될 수 있다. Accordingly, the image synthesizing method according to an embodiment of the present invention may be implemented by executing the computer program as described above by the computing device. The computing device may include at least a portion of a processor, a memory, a storage device, a high speed interface connected to the memory and a high speed expansion port, and a low speed interface connected to the low speed bus and the storage device. Each of these components are connected to each other using a variety of buses and may be mounted on a common motherboard or otherwise mounted in a suitable manner.
여기서 프로세서는 컴퓨팅 장치 내에서 명령어를 처리할 수 있는데, 이런 명령어로는, 예컨대 고속 인터페이스에 접속된 디스플레이처럼 외부 입력, 출력 장치상에 GUI(Graphic User Interface)를 제공하기 위한 그래픽 정보를 표시하기 위해 메모리나 저장 장치에 저장된 명령어를 들 수 있다. 다른 실시예로서, 다수의 프로세서 및(또는) 다수의 버스가 적절히 다수의 메모리 및 메모리 형태와 함께 이용될 수 있다. 또한 프로세서는 독립적인 다수의 아날로그 및(또는) 디지털 프로세서를 포함하는 칩들이 이루는 칩셋으로 구현될 수 있다. Here, the processor may process instructions within the computing device, such as to display graphical information for providing a graphical user interface (GUI) on an external input, output device, such as a display connected to a high speed interface. Instructions stored in memory or storage. In other embodiments, multiple processors and / or multiple buses may be used with appropriately multiple memories and memory types. The processor may also be implemented as a chipset consisting of chips comprising a plurality of independent analog and / or digital processors.
또한 메모리는 컴퓨팅 장치 내에서 정보를 저장한다. 일례로, 메모리는 휘발성 메모리 유닛 또는 그들의 집합으로 구성될 수 있다. 다른 예로, 메모리는 비휘발성 메모리 유닛 또는 그들의 집합으로 구성될 수 있다. 또한 메모리는 예컨대, 자기 혹은 광 디스크와 같이 다른 형태의 컴퓨터 판독 가능한 매체일 수도 있다. The memory also stores information within the computing device. In one example, the memory may consist of a volatile memory unit or a collection thereof. As another example, the memory may consist of a nonvolatile memory unit or a collection thereof. The memory may also be other forms of computer readable media, such as, for example, magnetic or optical disks.
그리고 저장장치는 컴퓨팅 장치에게 대용량의 저장공간을 제공할 수 있다. 저장 장치는 컴퓨터 판독 가능한 매체이거나 이런 매체를 포함하는 구성일 수 있으며, 예를 들어 SAN(Storage Area Network) 내의 장치들이나 다른 구성도 포함할 수 있고, 플로피 디스크 장치, 하드 디스크 장치, 광 디스크 장치, 혹은 테이프 장치, 플래시 메모리, 그와 유사한 다른 반도체 메모리 장치 혹은 장치 어레이일 수 있다. In addition, the storage device can provide a large amount of storage space to the computing device. The storage device may be a computer readable medium or a configuration including such a medium, and may include, for example, devices or other configurations within a storage area network (SAN), and may include a floppy disk device, a hard disk device, an optical disk device, Or a tape device, flash memory, or similar other semiconductor memory device or device array.
전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.The foregoing description of the present invention is intended for illustration, and it will be understood by those skilled in the art that the present invention may be easily modified in other specific forms without changing the technical spirit or essential features of the present invention. will be. Therefore, it should be understood that the embodiments described above are exemplary in all respects and not restrictive. For example, each component described as a single type may be implemented in a distributed manner, and similarly, components described as distributed may be implemented in a combined form.
본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.The scope of the present invention is shown by the following claims rather than the above description, and all changes or modifications derived from the meaning and scope of the claims and their equivalents should be construed as being included in the scope of the present invention. do.

Claims (18)

  1. 소스 영상으로부터 합성하고자 하는 지정 영상을 추출하는 추출부;An extraction unit which extracts a designated image to be synthesized from a source image;
    상기 지정 영상을 타겟 영상과 합성하는 합성부; 및A synthesizer which synthesizes the designated image with a target image; And
    상기 지정 영상 및 상기 타겟 영상의 합성으로 생성된 합성 영상을 보정하는 보정부를 포함하고,A correction unit configured to correct a synthesized image generated by combining the designated image and the target image,
    상기 보정부는 상기 지정 영상 및 상기 타겟 영상 각각의 조명값에 기초하여 상기 합성 영상을 보정하는 영상 보정부, 상기 지정 영상 및 상기 타겟 영상 각각의 채도값에 기초하여 상기 합성 영상을 보정하는 채도 보정부 및 상기 지정 영상 및 상기 타겟 영상 각각의 명도 히스토그램에 기초하여 상기 합성 영상을 보정하는 명도 분포 보정부 중 적어도 하나 이상을 포함하며,The image correction unit corrects the composite image based on an illumination value of each of the designated image and the target image, and a chroma correction unit corrects the synthesized image based on chroma values of each of the designated image and the target image. And a brightness distribution corrector configured to correct the synthesized image based on the brightness histogram of each of the designated image and the target image.
    상기 영상 보정부는,The image correction unit,
    상기 지정 영상 및 상기 타겟 영상 각각의 조명값에 기초하여 상기 합성 영상을 보정하되, 상기 지정 영상의 조명값에 대한 상기 타겟 영상의 조명값의 비의 거듭 제곱에 상기 지정 영상을 곱해 보정된 지정 영상을 생성하고, 상기 타겟 영상의 조명값에 대한 상기 지정 영상의 조명값의 비의 거듭 제곱에 상기 타겟 영상을 곱해 보정된 타겟 영상을 생성하는, 영상 합성 장치.The designated image is corrected based on an illumination value of each of the designated image and the target image, and is corrected by multiplying the specified image by a power of a ratio of an illumination value of the target image to an illumination value of the designated image. And generating a corrected target image by multiplying the target image by a power of a ratio of an illumination value of the designated image to an illumination value of the target image.
  2. 제1항에 있어서,The method of claim 1,
    상기 지정 영상의 조명값에 대한 상기 타겟 영상의 조명값의 비의 거듭 제곱의 횟수 및 상기 타겟 영상의 조명값에 대한 상기 지정 영상의 조명값의 비의 거듭 제곱의 횟수는 보정 정보에 기초하는, 영상 합성 장치.The number of times the power of the ratio of the illumination value of the target image to the illumination value of the target image and the number of times the power of the ratio of the illumination value of the target image to the illumination value of the target image is based on the correction information, Video Synthesis Device.
  3. 제2항에 있어서,The method of claim 2,
    상기 영상 보정부는,The image correction unit,
    상기 보정 정보가 0일 경우, 상기 타겟 영상만 보정하고, 상기 보정 정보가 1일 경우, 상기 지정 영상만 보정하는, 영상 합성 장치.And correct only the target image when the correction information is 0, and correct only the designated image when the correction information is 1.
  4. 제1항에 있어서,The method of claim 1,
    상기 영상 보정부는, The image correction unit,
    수식 1 및 수식 2에 기초하여 상기 합성 영상을 보정하는, 영상 합성 장치.And correcting the synthesized image based on Equation 1 and Equation 2.
    -수식 1-Equation 1
    S't = (LT/LS)m * St S ' t = (L T / L S ) m * S t
    -수식 2-Formula 2-
    T't = (LS/LT)(1-m) * Tt T ' t = (L S / L T ) (1-m) * T t
    {여기서 St는 시간 t에서의 지정 영상, Tt 는 시간 t에서의 타겟 영상, Ls는 St의 조명값, LT는 Tt의 조명값, S't는 보정된 지정 영상, T't는 보정된 타겟 영상, m은 보정 정보}{Where S t is the designated image at time t, T t is the target image at time t, L s is the illumination value of S t , L T is the illumination value of T t , S ' t is the corrected specified image, T ' t is the corrected target image, m is the correction information}
  5. 제1항에 있어서,The method of claim 1,
    상기 채도 보정부는,The saturation correction unit,
    상기 지정 영상 및 상기 타겟 영상 각각을 HSV(Hue Saturation Value) 색공간으로 변환하였을 때 각각의 채도값의 평균을 보정하여, 상기 합성 영상을 보정하는, 영상 합성 장치.And correcting the synthesized image by correcting an average of respective saturation values when converting each of the designated image and the target image into a Hue Saturation Value (HSV) color space.
  6. 제5항에 있어서,The method of claim 5,
    상기 채도 보정부는,The saturation correction unit,
    수식 3 및 수식 4에 기초하여 합성 영상을 보정하는, 영상 합성 장치.An image synthesizing apparatus for correcting a synthesized image based on Equations 3 and 4.
    -수식 3-Formula 3
    Sat(S′t) = Sat(St) + m(SatT - SatS)Sat (S ′ t ) = Sat (S t ) + m (Sat T -Sat S )
    -수식 4-Equation 4
    Sat(T′t) = Sat(Tt) + (1 - m)(SatS - SatT)Sat (T ′ t ) = Sat (T t ) + (1-m) (Sat S -Sat T )
    {여기서 Sat(S′t)는 보정된 지정 영상의 각 픽셀상의 채도 평균값, Sat(T′t)는 보정된 타겟 영상의 각 픽셀상의 채도 평균값, Sat(St)는 시간 t에서의 지정 영상의 각 픽셀상의 채도 평균값, Sat(Tt)는 시간 t에서의 타겟 영상의 각 픽셀상의 채도 평균값, m은 보정 정보, SatS 및 SatT 는 각각 시간 t에서의 지정 영상 및 타겟 영상을 HSV(Hue Saturation Value) 색공간으로 변환하였을 때 S(채도)값의 평균}{Sat (S ′ t ) is the average chroma value on each pixel of the corrected designated image, Sat (T ′ t ) is the average chroma value on each pixel of the corrected target image, Sat (S t ) is the designated image at time t The average chroma value on each pixel of, Sat (T t ) is the average chroma value on each pixel of the target image at time t, m is correction information, and Sat S and Sat T are HSV (designated image and target image at time t, respectively). Hue Saturation Value) Mean of S (saturation) value when converted to color space}
  7. 제1항에 있어서,The method of claim 1,
    상기 명도 분포 보정부는,The brightness distribution correction unit,
    히스토그램 변환에 기초하여 상기 합성 영상의 명도값의 분포를 보정하여, 상기 합성 영상을 보정하는, 영상 합성 장치.And correcting the synthesized image by correcting a distribution of brightness values of the synthesized image based on a histogram transformation.
  8. 제7항에 있어서,The method of claim 7, wherein
    상기 명도 분포 보정부는,The brightness distribution correction unit,
    상기 지정 영상 및 상기 타겟 영상 각각에 히스토그램을 계산하고, 계산된 각각의 히스토그램이 서로 비슷한 형태가 되도록 명도값을 변환시켜 상기 합성 영상을 보정하는, 영상 합성 장치.And calculating a histogram on each of the designated image and the target image, and correcting the synthesized image by converting brightness values so that the calculated histograms have a similar shape.
  9. 제7항에 있어서,The method of claim 7, wherein
    상기 명도 분포 보정부는,The brightness distribution correction unit,
    수식 5 및 수식 6에 기초하여 상기 합성 영상을 보정하는, 영상 합성 장치.And correcting the synthesized image based on Equations 5 and 6.
    -수식 5-Equation 5-
    V (S′t) = (1 - m)V (St) + mAT -1 · AS (V (St))V (S ′ t ) = (1-m) V (S t ) + mA T -1A S (V (S t ))
    -수식 6-Equation 6
    V (T′t) = mV (Tt) + (1 - m)AS -1 · AT (V (St))V (T ′ t ) = mV (T t ) + (1-m) A S -1A T (V (S t ))
    {여기서 V (S't)는 보정된 지정 영상의 명도값, V (T't)는 보정된 타겟 영상의 명도값, AS 및 AT는 각각 시간 t에 대한 지정 영상 및 타겟 영상의 누적 히스토그램에 대한 단조증가함수, V (St)는 시간 t에서의 지정 영상의 명도값, V (Tt)는 시간 t에서의 타겟 영상의 명도값, m은 보정 정보}{Where V (S ' t ) is the brightness value of the corrected target image, V (T' t ) is the brightness value of the corrected target image, and A S and A T are the accumulated values of the specified image and the target image for time t, respectively. Monotonically increasing function for the histogram, V (S t ) is the brightness value of the specified image at time t, V (T t ) is the brightness value of the target image at time t, m is correction information}
  10. 영상 보정 장치가 영상을 보정하는 방법에 있어서,In the method for correcting the image by the image correction device,
    소스 영상으로부터 합성하고자 하는 지정 영상을 추출하는 단계;Extracting a designated image to be synthesized from the source image;
    상기 지정 영상을 타겟 영상과 합성하는 단계; 및Synthesizing the designated image with a target image; And
    상기 지정 영상 및 상기 타겟 영상의 합성으로 생성된 합성 영상을 보정하는 단계를 포함하고,Correcting a composite image generated by synthesizing the designated image and the target image,
    상기 보정하는 단계는 상기 지정 영상 및 상기 타겟 영상 각각의 조명값, 상기 지정 영상 및 상기 타겟 영상 각각의 채도값 및 상기 지정 영상 및 상기 타겟 영상 각각의 명도 히스토그램에 중 적어도 하나 이상에 기초하여 상기 합성 영상을 보정하며, The compensating may be performed based on at least one of an illumination value of each of the designated image and the target image, a saturation value of each of the designated image and the target image, and a brightness histogram of each of the designated image and the target image. To correct the image,
    상기 보정하는 단계는, 상기 조명값에 기초하여 상기 합성 영상을 보정할 경우 상기 지정 영상 및 상기 타겟 영상 각각의 조명값에 기초하여 상기 합성 영상을 보정하되, 상기 지정 영상의 조명값에 대한 상기 타겟 영상의 조명값의 비의 거듭 제곱에 상기 지정 영상을 곱해 보정된 지정 영상을 생성하고, 상기 타겟 영상의 조명값에 대한 상기 지정 영상의 조명값의 비의 거듭 제곱에 상기 타겟 영상을 곱해 보정된 타겟 영상을 생성하는, 영상 합성 방법.The correcting may include correcting the synthesized image based on an illumination value of each of the designated image and the target image, when correcting the synthesized image based on the illumination value, wherein the target with respect to the illumination value of the designated image is corrected. The corrected specified image is generated by multiplying the specified image by the power of the ratio of the illumination values of the image, and corrected by multiplying the target image by the power of the ratio of the illumination value of the specified image to the illumination value of the target image. An image synthesis method for generating a target image.
  11. 제10항에 있어서,The method of claim 10,
    상기 지정 영상의 조명값에 대한 상기 타겟 영상의 조명값의 비의 거듭 제곱의 횟수 및 상기 타겟 영상의 조명값에 대한 상기 지정 영상의 조명값의 비의 거듭 제곱의 횟수는 보정 정보에 기초하는, 영상 합성 방법.The number of times the power of the ratio of the illumination value of the target image to the illumination value of the target image and the number of times the power of the ratio of the illumination value of the target image to the illumination value of the target image is based on the correction information, Image Synthesis Method.
  12. 제11항에 있어서, The method of claim 11,
    상기 보정하는 단계는,The correcting step,
    상기 보정 정보가 0일 경우, 상기 타겟 영상만 보정하고, 상기 보정 정보가 1일 경우, 상기 지정 영상만 보정하는, 영상 합성 방법.And correcting only the target image when the correction information is 0, and correcting only the designated image when the correction information is 1.
  13. 제10항에 있어서,The method of claim 10,
    상기 보정하는 단계는,The correcting step,
    수식 1 및 수식 2에 기초하여 상기 합성 영상을 보정하는, 영상 합성 방법.And correcting the synthesized image based on Equation 1 and Equation 2.
    -수식 1-Equation 1
    S't = (LT/LS)m * St S ' t = (L T / L S ) m * S t
    -수식 2-Formula 2-
    T't = (LS/LT)(1-m) * Tt T ' t = (L S / L T ) (1-m) * T t
    {여기서 St는 시간 t에서의 지정 영상, Tt 는 시간 t에서의 타겟 영상, Ls는 St의 조명값, LT는 Tt의 조명값, S't는 보정된 지정 영상, T't는 보정된 타겟 영상, m은 보정 정보}{Where S t is the designated image at time t, T t is the target image at time t, L s is the illumination value of S t , L T is the illumination value of T t , S ' t is the corrected specified image, T ' t is the corrected target image, m is the correction information}
  14. 제10항에 있어서,The method of claim 10,
    상기 보정하는 단계는,The correcting step,
    상기 채도값에 기초하여 상기 합성 영상을 보정할 경우, 상기 지정 영상 및 상기 타겟 영상 각각을 HSV(Hue Saturation Value) 색공간으로 변환하였을 때 각각의 채도값의 평균을 보정하여, 상기 합성 영상을 보정하는, 영상 합성 방법.When correcting the synthesized image based on the saturation value, correcting the synthesized image by correcting an average of each saturation value when converting each of the designated image and the target image into a Hue Saturation Value (HSV) color space. Image synthesis method.
  15. 제14항에 있어서,The method of claim 14,
    상기 보정하는 단계는,The correcting step,
    수식 3 및 수식 4에 기초하여 합성 영상을 보정하는, 영상 합성 방법.And correcting the synthesized image based on Equations 3 and 4.
    -수식 3-Formula 3
    Sat(S′t) = Sat(St) + m(SatT - SatS)Sat (S ′ t ) = Sat (S t ) + m (Sat T -Sat S )
    -수식 4-Equation 4
    Sat(T′t) = Sat(Tt) + (1 - m)(SatS - SatT)Sat (T ′ t ) = Sat (T t ) + (1-m) (Sat S -Sat T )
    {여기서 Sat(S′t)는 보정된 지정 영상의 각 픽셀상의 채도 평균값, Sat(T′t)는 보정된 타겟 영상의 각 픽셀상의 채도 평균값, Sat(St)는 시간 t에서의 지정 영상의 각 픽셀상의 채도 평균값, Sat(Tt)는 시간 t에서의 타겟 영상의 각 픽셀상의 채도 평균값, m은 보정 정보, SatS 및 SatT 는 각각 시간 t에서의 지정 영상 및 타겟 영상을 HSV(Hue Saturation Value) 색공간으로 변환하였을 때 S(채도)값의 평균}{Sat (S ′ t ) is the average chroma value on each pixel of the corrected designated image, Sat (T ′ t ) is the average chroma value on each pixel of the corrected target image, Sat (S t ) is the designated image at time t The average chroma value on each pixel of, Sat (T t ) is the average chroma value on each pixel of the target image at time t, m is correction information, and Sat S and Sat T are HSV (designated image and target image at time t, respectively). Hue Saturation Value) Mean of S (saturation) value when converted to color space}
  16. 제10항에 있어서,The method of claim 10,
    상기 보정하는 단계는,The correcting step,
    상기 명도 히스토그램에 기초하여 상기 합성 영상을 보정할 경우, 히스토그램 변환에 기초하여 상기 합성 영상의 명도값의 분포를 보정하여, 상기 합성 영상을 보정하는, 영상 합성 방법.And correcting the distribution of the brightness values of the synthesized image based on a histogram transformation when correcting the synthesized image based on the brightness histogram.
  17. 제16항에 있어서,The method of claim 16,
    상기 보정하는 단계는,The correcting step,
    상기 지정 영상 및 상기 타겟 영상 각각에 히스토그램을 계산하고, 계산된 각각의 히스토그램이 서로 비슷한 형태가 되도록 명도값을 변환시켜 상기 합성 영상을 보정하는, 영상 합성 방법.And calculating a histogram on each of the designated image and the target image, and correcting the synthesized image by converting brightness values so that the calculated histograms have a similar shape.
  18. 제16항에 있어서,The method of claim 16,
    상기 보정하는 단계는,The correcting step,
    수식 5 및 수식 6에 기초하여 상기 합성 영상을 보정하는, 영상 합성 방법.And correcting the synthesized image based on Equations 5 and 6.
    -수식 5-Equation 5-
    V (S′t) = (1 - m)V (St) + mAT -1 · AS (V (St))V (S ′ t ) = (1-m) V (S t ) + mA T -1A S (V (S t ))
    -수식 6-Equation 6
    V (T′t) = mV (Tt) + (1 - m)AS -1 · AT (V (St))V (T ′ t ) = mV (T t ) + (1-m) A S -1A T (V (S t ))
    {여기서 V (S't)는 보정된 지정 영상의 명도값, V (T't)는 보정된 타겟 영상의 명도값, AS 및 AT는 각각 시간 t에 대한 지정 영상 및 타겟 영상의 누적 히스토그램에 대한 단조증가함수, V (St)는 시간 t에서의 지정 영상의 명도값, V (Tt)는 시간 t에서의 타겟 영상의 명도값, m은 보정 정보}{Where V (S ' t ) is the brightness value of the corrected target image, V (T' t ) is the brightness value of the corrected target image, and A S and A T are the accumulated values of the specified image and the target image for time t, respectively. Monotonically increasing function for the histogram, V (S t ) is the brightness value of the specified image at time t, V (T t ) is the brightness value of the target image at time t, m is correction information}
PCT/KR2016/003037 2015-03-25 2016-03-25 Image synthesis apparatus and method WO2016153309A1 (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020150041759A KR101555879B1 (en) 2015-03-25 2015-03-25 Apparatus for composing image and method thereof
KR10-2015-0041759 2015-03-25

Publications (1)

Publication Number Publication Date
WO2016153309A1 true WO2016153309A1 (en) 2016-09-29

Family

ID=54249149

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2016/003037 WO2016153309A1 (en) 2015-03-25 2016-03-25 Image synthesis apparatus and method

Country Status (2)

Country Link
KR (1) KR101555879B1 (en)
WO (1) WO2016153309A1 (en)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004007770A (en) * 1998-08-31 2004-01-08 Hitachi Software Eng Co Ltd Image compositing method, and its device
JP3485543B2 (en) * 1998-06-22 2004-01-13 富士写真フイルム株式会社 Imaging device and method
JP2004297143A (en) * 2003-03-25 2004-10-21 Fuji Photo Film Co Ltd Photographing system
JP2005244536A (en) * 2004-02-26 2005-09-08 Seiko Epson Corp Image composition for generating composite image by overlapping image
KR20120019752A (en) * 2010-08-26 2012-03-07 에이스텔 주식회사 System for ultra high-definition image using chroma-key

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3485543B2 (en) * 1998-06-22 2004-01-13 富士写真フイルム株式会社 Imaging device and method
JP2004007770A (en) * 1998-08-31 2004-01-08 Hitachi Software Eng Co Ltd Image compositing method, and its device
JP2004297143A (en) * 2003-03-25 2004-10-21 Fuji Photo Film Co Ltd Photographing system
JP2005244536A (en) * 2004-02-26 2005-09-08 Seiko Epson Corp Image composition for generating composite image by overlapping image
KR20120019752A (en) * 2010-08-26 2012-03-07 에이스텔 주식회사 System for ultra high-definition image using chroma-key

Also Published As

Publication number Publication date
KR101555879B1 (en) 2015-09-30

Similar Documents

Publication Publication Date Title
WO2016133293A1 (en) Metadata-based image processing method and apparatus
WO2019172725A1 (en) Method and apparatus for performing depth estimation of object
WO2017030311A1 (en) Electronic device performing image conversion, and method thereof
WO2016047894A1 (en) Apparatus and method for correcting/controlling camera image by using color/illumination sensor
WO2015141925A1 (en) Photographing apparatus, method of controlling the same, and computer-readable recording medium
WO2016076497A1 (en) Method and device for image display based on metadata, and recording medium therefor
WO2009151292A2 (en) Image conversion method and apparatus
WO2019164185A1 (en) Electronic device and method for correcting image corrected in first image processing scheme in external electronic device in second image processing scheme
WO2014003237A1 (en) Image extraction and synthesis apparatus, and method for same
WO2010041836A2 (en) Method of detecting skin-colored area using variable skin color model
WO2020032497A1 (en) Method and apparatus for incorporating noise pattern into image on which bokeh processing has been performed
WO2019035551A1 (en) Apparatus for composing objects using depth map and method for the same
WO2021125645A1 (en) Method for providing white balance and electronic device supporting same
WO2020159149A1 (en) Electronic device and method for processing image
WO2018110889A1 (en) Image white balance correction method and electronic device
WO2016129796A1 (en) Color table creating device, camera image correction/control device and method therefor
WO2015152484A1 (en) Method and apparatus for transmitting and receiving video signal
WO2016085047A1 (en) Method and device for transmitting image signal
WO2022014791A1 (en) Multi-frame depth-based multi-camera relighting of images
WO2016153309A1 (en) Image synthesis apparatus and method
WO2021194036A1 (en) Method and system for customizing camera parameters
WO2015152485A1 (en) Method and apparatus for transmitting video signal
WO2020045834A1 (en) Electronic apparatus and control method thereof
WO2022080680A1 (en) Artificial-intelligence-based image inpainting method and device
WO2021162263A1 (en) Method for generating image and electronic device therefor

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 16769127

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

32PN Ep: public notification in the ep bulletin as address of the adressee cannot be established

Free format text: NOTING OF LOSS OF RIGHTS PURSUANT TO RULE 112(1) EPC (EPO FORM 1205A DATED 15.01.2018)

122 Ep: pct application non-entry in european phase

Ref document number: 16769127

Country of ref document: EP

Kind code of ref document: A1