WO2013122419A1 - 디지털 영상 처리 방법, 장치, 및 컴퓨터로 판독 가능한 기록 매체 - Google Patents

디지털 영상 처리 방법, 장치, 및 컴퓨터로 판독 가능한 기록 매체 Download PDF

Info

Publication number
WO2013122419A1
WO2013122419A1 PCT/KR2013/001200 KR2013001200W WO2013122419A1 WO 2013122419 A1 WO2013122419 A1 WO 2013122419A1 KR 2013001200 W KR2013001200 W KR 2013001200W WO 2013122419 A1 WO2013122419 A1 WO 2013122419A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
comparison target
images
histogram
reference image
Prior art date
Application number
PCT/KR2013/001200
Other languages
English (en)
French (fr)
Inventor
박민제
Original Assignee
인텔 코오퍼레이션
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 인텔 코오퍼레이션 filed Critical 인텔 코오퍼레이션
Priority to US14/343,134 priority Critical patent/US9189837B2/en
Priority to EP13749055.3A priority patent/EP2816527B1/en
Publication of WO2013122419A1 publication Critical patent/WO2013122419A1/ko
Priority to US14/883,932 priority patent/US9384539B2/en

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/40—Image enhancement or restoration using histogram techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/00—2D [Two Dimensional] image generation
    • G06T11/60—Editing figures and text; Combining figures or text
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/70—Denoising; Smoothing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/90—Dynamic range modification of images or parts thereof
    • G06T5/92—Dynamic range modification of images or parts thereof based on global image properties
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75—Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/758—Involving statistics of pixels or of feature values, e.g. histogram matching
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70—Circuitry for compensating brightness variation in the scene
    • H04N23/73—Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10016—Video; Image sequence
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10141—Special mode during image acquisition
    • G06T2207/10144—Varying exposure
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20172—Image enhancement details
    • G06T2207/20208—High dynamic range [HDR] image processing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20212—Image combination
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20212—Image combination
    • G06T2207/20221—Image fusion; Image merging

Definitions

  • the present invention relates to a digital image processing method, an apparatus, and a computer-readable recording medium. More particularly, the present invention relates to a digital image processing method, an apparatus for correcting movement of a photographing apparatus and a subject, and removing ghost phenomenon. And a computer-readable recording medium.
  • the dynamic range (DR) of a digital image is defined as the ratio of the brightest pixel value and the darkest pixel value in the image.
  • the human visual system (HVS) can differ in a much higher dynamic range than a typical digital camera or monitor. Therefore, the existing imaging apparatus cannot capture or display an image perceived by a human as it is. As such, a need arises for processing an image having a larger dynamic range than that of an existing imaging apparatus, and such an image is referred to as a high dynamic range (HDR) image.
  • HDR high dynamic range
  • High dynamic range (HDR) images include short exposure images (SEI) obtained through short exposures based on bright parts, and long exposure images obtained through long exposures based on dark areas. LEI) can be obtained by synthesizing several sheets. In other words, when the brightness difference of each part is large in one image, the bright part obtains the image through short exposure and the dark part obtains the image through long exposure. Will be.
  • SEI short exposure images
  • LEI long exposure images
  • a plurality of images must be aligned, and a brightness step between two images at the stitched boundary portion must be appropriate. It should also look natural without causing artifacts between different regions in the boundary region. However, when synthesizing noisy images or when there is active motion, it is very difficult to synthesize them without causing motion artifacts without dropping the dynamic band (DR) of the image. .
  • DR dynamic band
  • the ghost phenomenon refers to a phenomenon in which images are overlapped according to the movement of the subject when there is a movement of a subject between images in multiple images, and when the images are merged or stitched.
  • the conventional invention relates to an apparatus and method for generating a ghost-free HDRI based on filtering, and does not specifically determine a ghost region in an image, and determines a ghost region based on a global transmission function that is a relational expression of concentration of various frames. Defining the probability prevents the ghosting that occurs when one HDRI is made from multiple LDRIs.
  • the object of the present invention is to solve all the above-mentioned problems.
  • another object is to generate a clear image without image overlap or ghost phenomenon.
  • Another object is to remove the ghost area even with a small number of exposure images.
  • Representative configuration of the present invention for achieving the above object is as follows.
  • a digital image processing method is provided.
  • obtaining a plurality of images (b) converting the plurality of images into a histogram; (c) setting any one of the plurality of images as a reference image and setting the remaining images as a first comparison target image and a second comparison target image; generating a first adjustment reference image and a second adjustment reference image by adjusting the histogram distribution of the reference image to be similar to the distribution of the histogram of the first comparison image and the second comparison image; (e) generating a first masking image by comparing a difference between the first adjustment reference image and the comparison target image, and generating a second masking image by comparing the difference between the second adjustment reference image and the comparison target image; step; (f) the comparison target images a second adjustment by applying the first comparison target images applying the first masking image to generate i the first adjustment comparison target image, and the second masking image in said second comparison-object image Generating a; And (g) synthesizing the reference image and the first and second adjustment comparison images to generate
  • the image acquisition unit for obtaining a plurality of images;
  • a histogram converter for converting the plurality of images into a histogram;
  • An image classifier configured to set one of the plurality of images as a reference image and set the other image as a comparison target image;
  • Histogram adjusting unit for similarly adjusting the "distribution of the histogram of the reference image and the distribution of the histogram of the comparison-object image created based on the adjusted image;
  • a masking image acquisition unit configured to generate a masking image by comparing a difference between the adjustment reference image and the comparison target image;
  • a comparison target image adjusting unit configured to generate an adjustment comparison target image by applying the masking image to the comparison target image;
  • an HDR image synthesizer configured to generate the HDR image by synthesizing the reference image and the adjustment comparison target image.
  • the image acquisition unit for obtaining a plurality of images;
  • a histogram converter configured to convert the plurality of images into a histogram;
  • an image classifier configured to set one of the plurality of images as a reference image and set the remaining images as a first comparison target image and a second comparison target image;
  • a histogram adjusting unit for generating a first adjustment reference image and a second adjustment reference image by adjusting a histogram distribution of the image to be similar to a distribution of the histograms of the first comparison target image and the second comparison target image, respectively;
  • a masking image acquisition unit generating a first masking image and generating a second masking image by comparing a difference between the second adjustment reference image and the comparison target image;
  • a comparison target generating a first adjustment comparison target image by applying the first masking image to the first comparison target image and generating a second adjustment comparison image by applying the second masking image to the second comparison target image.
  • a clear image can be obtained without generating an image overlapping or a ghost phenomenon in generating an HDR High Dynamic Range image.
  • FIG. 1 is a block diagram showing a schematic configuration of a digital image processing apparatus according to an embodiment of the present invention.
  • FIG. 2 is a block diagram illustrating a schematic configuration of a histogram comparison unit according to an exemplary embodiment of the present invention.
  • 3 is a diagram illustrating a histogram distribution according to brightness of an image.
  • 4 is a diagram for describing a digital image processing method according to an exemplary embodiment of the present invention.
  • 5A is a diagram illustrating an example of a low-exposure image used to synthesize an HDR image.
  • . 5B is a diagram illustrating an example of an average exposure image used to synthesize an HDR image.
  • 5C is a diagram illustrating an example of a high-exposure image used to synthesize an HDR image.
  • 6A is a diagram illustrating an image obtained by synthesizing the image disclosed in FIGS. 5A to 5C according to a conventional HDR image synthesis method.
  • 6B is a diagram illustrating an HDR image generated by synthesizing a reference image and a masking image according to an exemplary embodiment of the present invention.
  • FIG. 1 is a block diagram showing a schematic configuration of a digital image processing apparatus according to an embodiment of the present invention.
  • the digital image processing apparatus includes an image acquisition unit 100, a histogram comparison unit 110, a masking image acquisition unit 120, a noise removal unit 130, and a comparison target.
  • the image controller 140, the HDR image synthesizer 150, and the controller 160 are included.
  • a plurality of images having different exposure times are obtained through the image acquisition unit 100.
  • an image acquired through the image acquisition unit 100 is generally due to a low exposure image and a long exposure time due to a short exposure time.
  • the present invention is not limited thereto and may be applied when two or more images having different exposure times, such as a low exposure image and a high exposure image, are acquired through the image acquisition unit 100.
  • the histogram comparison unit 110 converts an image acquired through the image processing unit 100 into a histogram, sets a reference image among the converted images, and converts the reference image to another image obtained through the image processing unit 100 . In order to match the histogram, the brightness of the reference image is modified to obtain an adjusted reference image.
  • FIG. 2 is a block diagram illustrating a schematic configuration of a histogram comparison unit according to an exemplary embodiment of the present invention.
  • the histogram comparing unit 110 includes a histogram converting unit 111, an image classifying unit 112, and a histogram adjusting unit 113.
  • the histogram converter 111 converts a plurality of images obtained through the image acquirer 100 into a histogram.
  • the histogram is classified according to the level representing the brightness of each pixel in the digital image signal, and means a distribution of pixel levels of the image. If the image is dark overall, the histogram is heavily distributed over dark values (close to zero). On the contrary, if the image is bright, the histogram is heavily distributed over bright values (close to 255).
  • 3 is a diagram illustrating a distribution of a histogram according to brightness of an image. Referring to FIG. 3, when the original image is changed brightly, it may be confirmed that the pixel distribution is concentrated on a bright value on the histogram. Therefore, the histogram is suitable for representing the overall property of the image rather than detailed information on the elements constituting the object in the image. In addition, the histogram is relatively unaffected by geometric deformation such as rotation or movement of an object, and the implementation algorithm has a simple advantage.
  • the image classifier 112 sets one of the plurality of images converted into the histogram through the histogram converter 111 as the reference image.
  • the reference image may be set to any one of the low exposure image, the high exposure image, and the average exposure image, but preferably, the reference image is set to an image in which pixels are evenly distributed on the histogram.
  • 5A is a diagram illustrating an example of a low-exposure image used to synthesize an HDR image
  • FIG. 5B is a diagram illustrating an example of an average exposed image used to synthesize an HDR image
  • FIG. 5C is used to synthesize an HDR image. It is a figure which shows an example of a high exposure image.
  • 5A to 5C the setting of the average exposure image having pixels evenly disposed in the dark region and the bright region as the reference image sets the low exposure image or the high exposure image as the reference image. It is preferable than that.
  • the histogram adjusting unit 113 determines that the distribution of the histogram of the reference image is similar to the distribution of the histogram of an image other than the reference image obtained through the image obtaining unit 100, that is, another image.
  • the brightness of the reference image is modified to have.
  • another image compared with the reference image is defined as a comparison target image. Therefore, when the average exposure image is set as the reference image among the images illustrated in FIGS. 5A to 5C, the low exposure image and the high exposure image may be compared images.
  • the distribution of the histogram of the reference image is a variation of the brightness of the histogram similar to that of the comparison target image and is referred to as an adjustment reference image.
  • the reference image may be modified through the histogram comparing unit 110 to generate an adjusted reference image.
  • the masking image acquisition unit 120 generates a masking image corresponding to the difference between the adjustment reference image and the comparison target image obtained from the image acquisition unit 100.
  • the masking image may be an image of a hog, and the contrast may be determined by comparing the difference between the adjustment reference image and the comparison target image for each pixel.
  • a uniform exposure image may be used.
  • the low exposure image is set as the comparison target image as the all adjustment reference image
  • the portion A and B in the low exposure image are different from the portion A in which the person is located in the average exposure image.
  • the mask image of the portion that is reflected by is darkened, and the mask image of the remaining portion may be brightly expressed because the difference between them is small.
  • the A and B portions may be masked and deleted, and only the remaining portions may remain.
  • the high exposure image is set as a comparison target image as the average exposure image adjustment reference image
  • only the portion (A) where a person is located in the average exposure image is different, so that the mask image of the portion corresponding to the portion A is Darker, the mask image of the rest is brighter Can be expressed. Therefore, when the mask image is applied to the high exposure image, the portion A may be masked and deleted, and only the remaining portion may remain.
  • a masking image is generated by using an adjustment reference image obtained by converting the brightness of the reference image to a level similar to that of the comparison target image.
  • the difference due to the brightness of natural light or illumination is determined.
  • the masking image may be generated by discriminating only the change of the object in both images, excluding the possibility of recognizing the difference due to the change of the object.
  • the masking image obtained through the masking image acquisition unit 120 is an image obtained by comparing the adjustment reference image with the comparison target image at a binary level, and thus may have a high noise level.
  • the noise removing unit 130 removes noise appearing in the masked image.
  • the noise removing unit 130 may smooth the boundary of the object shown in the image by repeating the erosion operation and the dilation operation at least once.
  • the erosion and expansion operations are algorithms used to fill a hole in a binary image or remove noise in image processing.
  • the erosion operation removes a layer from an object or a particle or removes pixels or small pieces from the image that are not needed. This operation removes. In other words, if there is a blank area around the original image of the current pixel, it will remove the current pixel of the new image.
  • the dilation is an operation that enlarges certain pieces to add layers to an object or pieces. In other words, if a pixel exists around the original image of the current pixel, it fills the current pixel of the new image. In this way, the expansion operation restores the eroded piece to its original size.
  • the erosion and expansion operations are neighboring operations that define each pixel value according to a geometric relationship with neighboring pixels as part of a group of years known as morphological operations.
  • the erosion and expansion operations are divided into openings and closings.
  • the opening is a method of performing the expansion operation after performing an erosion operation, and the closing is performed after the expansion operation. It is a way to perform erosion operation. If the opening is an algorithm for removing noise, the closing can be viewed as an algorithm for filling the holes of the image.
  • the erosion operation and the expansion operation may be performed by an opening, but are not limited thereto.
  • Noise removal can also be achieved by the method.
  • the comparison target image adjusting unit 140 applies the masking image to the comparison target image to generate an adjustment comparison target image, and adjusts the synthesis of the HDR image.
  • the composition ratio of the comparison target image that is, the weight of the adjusted comparison target image is determined.
  • the additive value may be determined as a different value for each pixel constituting the comparison target image, and the value may be calculated as a difference value obtained by comparing the adjustment reference image and the comparison target image on a histogram. In other words, a value obtained by comparing the difference value obtained by comparing each pixel of the adjustment reference image and the comparison target image on the histogram to a value between 0 and 1 may be set as a weight.
  • the larger the difference between the adjustment reference image and the comparison target image, the larger the difference between the adjustment reference image and the comparison target image is to remove the image when generating the HDR image. In this way, a ghost phenomenon in which afterimages remain in the final synthesized HDR image can be prevented.
  • the HDR image synthesizing unit 150 synthesizes the final HDR image by synthesizing the reference image and the adjustment comparison image.
  • a weight of the reference image may be set to 1
  • a weight calculated by the comparison target image adjusting unit 140 may be applied to the adjustment comparison target image.
  • the controller 160 may include the image acquirer 100, the histogram comparator 110, the masked image acquirer 120, the noise remover 130, the comparison target image adjuster 140, and the HDR image synthesizer ( 150 to control the flow of data. That is, the controller 160 by controlling the fuzzy "flow of data between each component of the or a digital video processing device to / from the outside of the outside, the image obtaining unit 100, the histogram comparison unit 110, a masking image The obtaining unit 120, the noise removing unit 130, the comparison target image adjusting unit 140, and the HDR image synthesizing unit 150 each control to perform a unique function.
  • each of the image processing units may be implemented as a field programmable gate array (FPGA) or a gate array (GA). have.
  • FPGA field programmable gate array
  • GA gate array
  • the components shown may be implemented in a computer and programmed code.
  • the components shown may be implemented as a digital signal processing processor and sets of instructions executed by an analog camera, a digital camera or a camcorder.
  • FIG. 4 is a diagram for describing a digital image processing method according to an exemplary embodiment of the present invention.
  • the digital image processing method may be started from the step of acquiring a plurality of images having different exposure times through the image acquisition unit 100 (S100).
  • the plurality of images may be a low exposure image, a high exposure image, and a normal exposure image, but are not limited thereto.
  • the digital image processing method of the present invention can be applied.
  • FIGS. 5A to 5C in the low-exposure image shown in FIG. 5A, a person is positioned at the center of the image. In the mean-exposure image shown in FIG. In the high-exposure image shown in FIG. 5C, since the person is not visible, it can be seen that the person is moving from the center to the left.
  • the conventional HDR image is synthesized, the low-exposure image, the average-exposure image, and the high-exposure image are simply synthesized.
  • an afterimage remains and a clear HDR image is generated. There was a problem that could not be obtained.
  • FIG. 6A illustrates an image obtained by synthesizing the image disclosed in FIGS. 5A to 5C according to a conventional HDR image synthesis method. As can be seen in FIG. 6A, it may be confirmed that a residual HDR image of a moving person remains in the final synthesized image to obtain a clear HDR image.
  • the present invention converts the plurality of images into histograms through the histogram converting unit 111 and processes them (S110).
  • Each of the plurality of images is converted into a histogram and one of the images is set as a reference image.
  • the pixels are likely to be concentrated in the dark areas on the histogram, and in the case of high exposure images, the pixels are likely to be concentrated in the bright areas on the histogram.
  • the average exposure image is likely to be evenly distributed pixels over the entire area including a dark area and a bright area on the histogram.
  • the average exposure image is set as the reference image, and the histogram distribution of the average exposure image is similar to the distribution of the histogram of the low exposure image or the high exposure image by more than a predetermined similarity. Deform the contrast (S120).
  • the reason why the average exposure image is set as the reference image is that pixels are likely to be widely distributed in the dark and bright areas, and thus the amount of information is relatively richer than other images. Therefore, when the distribution of the histogram of the average exposure image is modified to be similar to the distribution of the histogram of the low exposure image or the high exposure image, an error such as a step which may occur when the low information image is matched to the high information image Because it can reduce.
  • the high exposure image may include more information than the average exposure image.
  • the high-exposure image may be set as the reference image, and the distribution of the histogram of the high-exposure image may be modified to be similar to the distribution of the histogram of the low-exposure image or the average exposure image.
  • adjusting the distribution of the histogram of the average exposure image, which is a reference image, to be similar to the distribution of the histogram of the low exposure image is defined as a first histogram adjustment.
  • Adjusting the distribution similar to the distribution of the histogram of the high-exposure image is defined as a second histogram adjustment.
  • the present invention can be implemented when there is a reference image and at least one comparison target image, and thus, even when only the low exposure image and the high exposure image are present, the reference image is determined based on one of the two images. It may be implemented by setting an image and setting another image as a comparison target image.
  • a masking image may be generated from the difference between the comparison target image and the adjustment reference image by using the adjustment reference image as masking (S130). Accordingly, the masking image may be referred to as an image displaying only pixels having a difference due to the movement of an object between the adjustment reference image and the comparison target image.
  • first masking an image generated by masking the low-exposure image as an adjustment reference image An image generated by masking the high-exposure image as an adjustment reference ' image is defined as a second masking image.
  • the masking image obtained through the masking image acquisition unit 120 may be a noise because the adjustment reference image and the comparison target image are obtained by comparing each other at a binary level. Therefore, the noise removed from the masking image is removed through the noise removing unit 130 (S140).
  • the noise removal may be achieved by repeating the erosion operation and the expansion operation at least once. However, such a noise removing step is not necessary.
  • the masking image is applied to the comparison target image through the comparison target image adjusting unit 140 to generate an adjustment comparison target image, and to the adjustment comparison target image.
  • the weight is given (S150).
  • the weight may be obtained by normalizing a difference value obtained by comparing an additive adjustment reference image with a comparison target image on a histogram to a value between 0 and 1. FIG. In this case, the difference between the adjusted reference image and the comparison-object image, the greater the weight is converged to zero, the smaller the difference between the adjusted reference image and the comparison-object image is smaller the weight is converged to 1.
  • the HDR image synthesizer 150 synthesizes the reference image and the adjustment comparison image to generate an HDR image (S170). After all, when the HDR image is generated in the moving part of the object, the pixel of the reference image is used as it is, and for the other parts, the image having different exposure values is synthesized to form the HDR image.
  • FIG. 6B is a diagram illustrating an HDR image finally synthesized in the above manner. Comparing FIG. 6B with FIG. 6A generated by the conventional HDR image synthesizing method, it can be seen that a clear image can be obtained with almost no afterimage remaining even when a person moves. Therefore, according to the present invention, a clear HDR image can be obtained without ghosting effects such as overlapping regions in which an object moves, as shown in FIG. 6A.
  • Embodiments according to the present invention described above may be implemented in the form of program instructions that may be executed by various computer components, and may be recorded in a computer-readable recording medium.
  • the computer-readable recording medium may include program instructions, data files, data structures, etc. alone or in combination.
  • the program instructions recorded on the computer readable recording medium may be those specially designed and configured for the present invention or the computer. It may be known and available to those skilled in the software art.
  • Examples of computer-readable recording media include magnetic media such as hard disks, floppy disks and magnetic tape, optical recording media such as CD-ROMs and DVDs, and magneto-optical media such as floptical disks.
  • Examples of program instructions include not only machine code generated by a compiler, but also high-level language code that can be executed by a computer using an interpreter or the like.
  • the hardware device may be configured to operate as one or more software modules to perform a process according to the invention, and vice versa.
  • the present invention can be used in a digital image processing apparatus.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)

Abstract

본 발명의 일 태양에 따르면, (a) 복수의 영상을 획득하는 단계, (b) 상기 복수의 영상을 히스토그램으로 변환하는 단계, (c) 상기 복수의 영상 중 어느 하나를 기준 영상으로 나머지 영상을 비교 대상 영상으로 설정하는 단계, (d) 상기 기준 영상의 히스토그램을 상기 비교 대상 영상의 히스토그램과 매칭하여 조정 기준 영상을 생성하는 단계, (e) 상기 조정 기준 영상과 상기 비교 대상 영상의 차이를 각 픽셀마다 비교하여 마스킹 영상을 생성하는 단계, (f) 상기 비교 대상 영상과 마스킹 영상을 합성하여 조정 비교 대상 영상을 생성하는 단계, 및 (g) 상기 기준 영상과 상기 조정 비교 대상 영상을 합성하여 HDR 영상을 생성하는 단계를 포함하는 디지털 영상 처리 방법이 제공된다. 이를 통하여 본 발명은 피사체에 복잡한 움직임이 있을 경우에도 HDR(High Dynamic Range) 영상을 생성하는데 있어, 상겹침이나 고스트 현상 없이 선명한 영상을 얻을 수 있다.

Description

디지털 영상 처리 방법， 장치， 및 컴퓨터로 판독 가능한 기록 매체 【기술분야】
본 발명은 디지털 영상 처리 방법, 장치， 및 컴퓨터로 판독 가능한 기록 매체에 관한 것으로서， 보다 상세하게는， 촬영장치 및 피사체의 움직임을 보정하고， 고스트 현상을 제거할 수 있는 디지털 영상 처리 방법， 장치 , 및 컴퓨터로 판독 가능한 기록 매체에 관한 것이다.
【배경기술】
디지털 영상의 동적 대역 (Dynamic Range, DR)은 영상 내에서 가장 밝은 화소값과 가장 어두운 화소값의 비율로 정의된다. 인간의 시각 인지 시스템 (Human Visual System, HVS)은 일반적인 디지털 카메라나 모니터보다 훨씬 높은 동적 대역을 다를 수 있다. 따라서， 기존의 영상 장치는 인간이 인지하는 영상을 그대로 획득 (capture)하거나 표현 (display) 할 수 없다. 이처럼 기존의 영상 장치가 다를 수 있는 것보다 큰 동적 영역을 갖는 영상의 처리에 관한 필요성이 대두되고 있으며， 이러한 영상을 HDR(High Dynamic Range) 영상이라고 한다.
상기 HDR 영상의 생성 기술은， 서로 다른 노출 정도를 갖는 다수의 영상을 합성하여 동적 대역 (DR)을 확장하는 기술이라고 할 수 있다. 높은 동적 대역 (HDR) 영상은 밝은 부분을 기준으로 하여 짧은 노출을 통해 얻어지는 단노출 영상 (Short Exposure Image, SEI)과, 어두운 부분을 기준으로 하여 긴 노출을 통해 얻어지는 장노출 영상 (Long Exposure Image, LEI)을 여러 장 합성하여 얻을 수 있다. 즉, 하나의 영상 내에서 각 부분의 밝기 차이가 큰 경우, 밝은 부분은 짧은 노출을 통해 이미지를 얻고 어두운 부분은 긴 노출을 통해 이미지를 얻음으로써 밝기 차이가 큰 영상에 대해서도 전체적으로 선명한 이미지를 얻을 수 있게 된다.
이와 같이 다중 영상을 합성하기 위해서는 복수의 영상들이 정렬 (alignment)되어야 하고， 스티치된 경계 부분에서 두 영상 간의 밝기 단차가 적절해야 한다. 또한 경계 영역에서 서로 다른 영역 간에 부정합 (artifact)이 유발되지 않고 자연스럽게 보여야 한다. 그러나， 노이즈가 있는 영상들을 합성할 때， 또는 활성 움직임 (active motion)이 있을 때 영상의 동적 대역 (DR)을 떨어뜨리지 않으면서 움직임 부정합 (motion artifact)을 유발하지 않고 합성한다는 것은 매우 어려운 일이다.
만약 피사체 또는 카메라가 움직이면 단노출 영상과 장노출 영상이 동일하지 않게 되므로， HDR 영상 합성시 고스트 현상 (ghost effect)이 발생할 수 있다. 상기 고스트 현상이란 다중 영상에서 영상 간에 피사체의 움직임이 있어서 그 영상들을 병합 (merge) 흑은 스티치 (stitch)할 때 피사체의 움직임에 따라 영상이 겹쳐서 나타나는 현상을 말한다.
종래 위와 같은 고스트 현상의 문제를 해결하기 위하여 공개일자 2011. 12. 21. 공개번호 10-2011-0136152 발명의 명칭 "필터링에 기반하여 고스트가 없는 HDR I를 생성하는 장치 및 방법"이 개시된 바 있다.
상기 종래 발명은 필터링에 기반하여 고스트가 없는 HDRI를 생성하는 장치 및 방법에 관한 것으로서， 이미지에서 고스트 지역을 구체적으로 판단하지 않고， 여러 프레임들의 집중도에 대한 관계식인 글로벌 전송함수에 근거하여 고스트 지역을 확률로 정의함으로쎄 여러 장의 LDRI들로부터 한 장의 HDRI를 만들 때 발생하는 고스트 현상을 예방할 수 있다.
그러나 상기 종래 발명과 같이 고스트 영역을 제거하기 위하여 연속되는 노출 영상들 사이의 확률 함수를 계산하기 위해서는 많은 수의 노출 영상이 요구되므로 HDR 영상을 추출하기 위한 연산 속도가 떨어지게 되는 문제점이 있다.
【발명의 개시】
본 발명은 상술한 문제점을 모두 해결하는 것을 그 목적으로 한다. 또한， 피사체에 복잡한 움직임이 있을 경우에도 HDRHigh Dynamic Range) 영상을 생성하는데 있어， 상겹침이나 고스트 현상이 없는 선명한 영상을 생성하는 것을 다른 목적으로 한다.
또한 적은 수의 노출 영상으로도 고스트 영역을 제거할 수 있는 것을 또 다른 목적으로 한다.
상기 목적을 달성하기 위한 본 발명의 대표적인 구성은 다음과 같다. 본 발명의 일 태양에 따르면, (a) 복수의 영상을 획득하는 단계; (b) 상기 복수의 영상올 히스토그램으로 변환하는 단계; (c) 상기 복수의 영상 중 어느 하나를 기준 영상으로 설정하고 나머지 영상을 비교 대상 영상으로 설정하는 단계; (d) 상기 기준 영상의 히스토그램의 분포를 상기 비교 대상 영상의 히스토그램의 분포와 유사하게 조정하여 조정기준 영상올 생성하는 단계; (e) 상기 조정 기준 영상과 상기 비교 대상 영상의 차이를 비교하여 마스킹 영상을 생성하는 단계; (f) 상기 비교 대상 영상에 상기 마스킹 영상을 적용하여 조정 비교 대상 영상을 생성하는 단계; 및 (g) 상기 기준 영상과 상기 조정 비교 대상 영상을 합성하여 HDR 영상을 생성하는 단계를 포함하는 디지털 영상 처리 방법이 제공된다.
본 발명의 다른 태양에 따르면， (a) 복수의 영상을 획득하는 단계; (b) 상기 복수의 영상을 히스토그램으로 변환하는 단계; (c) 상기 복수의 영상 중 어느 하나를 기준 영상으로 설정하고 나머지 영상을 제 1 비교 대상 영상 및 제 2 비교 대상 영상으로 설정하는 단계; (d) 상기 기준 영상의 히스토그램의 분포를 상기 제 1 비교 대상 영상 및 상기 제 2 비교 대상 영상의 히스토그램의 분포와 각각 유사하게 조정하여 제 1 조정기준 영상 및 제 2 조정 기준 영상을 생성하는 단계; (e) 상기 제 1 조정 기준 영상과 상기 비교 대상 영상의 차이를 비교하여 제 1 마스킹 영상을 생성하고， 상기 제 2 조정 기준 영상과 상기 비교 대상 영상의 차이를 비교하여 제 2 마스킹 영상을 생성하는 단계; (f) 상기 제 1 비교 대상영상에 상기 제 1 마스킹 영상을 적용하여 제 1 조정 비교 대상 영상을ᅵ 생성하고， 상기 제 2 비교 대상 영상에 상기 제 2 마스킹 영상을 적용하여 제 2 조정 비교 대상 영상을 생성하는 단계; 및 (g) 상기 기준 영상과 상기 제 1 및 제 2 조정 비교 대상 영상을 합성하여 HDR 영상을 생성하는 단계를 포함하는 디지털 영상 처리 방법이 제공된다.
본 발명의 또 다른 태양에 따르면， 복수의 영상을 획득하는 영상 획득부; 상기 복수의 영상을 히스토그램으로 변환하는 히스토그램변환부; 상기 복수의 영상 중 어느 하나를 기준 영상으로 설정하고 나머지 영상을 비교 대상 영상으로 설정하는 영상 분류부; 상기 기준 영상의 히스토그램의 ' 분포를 상기 비교 대상 영상의 히스토그램의 분포와 유사하게 조정하여 조정 기준 영상을 생성하는 히스토그램조정부; 상기 조정 기준 영상과 상기 비교 대상 영상의 차이를 비교하여 마스킹 영상을 생성하는 마스킹 영상 획득부; 상기 비교 대상 영상에 상기 마스킹 영상을 적용하여 조정 비교 대상 영상을 생성하는 비교 대상 영상 조정부; 및 상기 기준 영상과 상기 조정 비교 대상 영상을 합성하여 HDR 영상을 생성하는 HDR 영상 합성부를 포함하는 디지털 영상처리 장치가 제공된다.
본 발명의 또 다른 태양에 따르면, 복수의 영상을 획득하는 영상 획득부; 상기 복수의 영상을 히스토그램으로 변환하는 히스토그램 변환부；상기 복수의 영상 중 어느 하나를 기준 영상으로 설정하고 나머지 영상을 게 1 비교 대상 영상 및 제 2 비교 대상 영상으로 설정하는 영상 분류부；상기 기준 영상의 히스토그램의 분포를 상기 제 1 비교 대상 영상 및 상기 제 2 비교 대상 영상의 히스토그램의 분포와 각각 유사하게 조정하여 제 1 조정기준 영상 및 제 2 조정 기준 영상을 생성하는 히스토그램 조정부；상기 게 1 조정 기준 영상과 상기 비교 대상 영상의 차이를 비교하여 제 1 마스킹 영상을 생성하고， 상기 제 2 조정 기준 영상과 상기 비교 대상 영상의 차이를 비교하여 제 2 마스킹 영상을 생성하는 마스킹 영상 획득부; 상기 제 1 비교 대상 영상에 상기 제 1 마스킹 영상을 적용하여 게 1 조정 비교 대상 영상을 생성하고 상기 제 2 비교 대상 영상에 상기 제 2 마스킹 영상을 적용하여 제 2 조정 비교대상 영상을 생성하는 비교 대상 영상 조정부; 및 상기 기준 영상과 상기 제 1 및 제 2 조정 비교 대상 영상을 합성하여 HDR 영상을 생성하는 HDR 영상 합성부를 포함하는 디지털 영상 처리 장치가 제공된다.
이 외에도， 본 발명을 구현하기 위한 다른 방법， 장치 및 상기 방법을 실행하기 위한 컴퓨터 프로그램을 기록하기 위한 컴퓨터로 판독 가능한 기록 매체가 더 제공된다.
본 발명은 피사체에 복잡한 움직임이 있을 경우에도 HDR High Dynamic Range) 영상을 생성하는데 있어, 상겹침이나 고스트 현상 없이 선명한 영상을 얻을 수 있다.
또한， 활성 움직임 (active motion)의 장면 (scene)에서도 정합율을 향상하는 것이 가능하다. 이를 통해 HDR 영상에서 움직임 부정합 (motion artifact)과 다이내믹 레인지의 감소를 줄일 수 있다.
또한, 고스트 영역을 제거하기 위하여 연속되는 노출 영상들 사이의 확률 함수를 계산하기 위해 수 많은 노출 영상이 필요하지 않으며 최소 2장의 노출 영상이면 가능하게 된다.
【도면의 간단한 설명】
도 1은 본 발명의 바람직한 일 실시예에 따른 디지털 영상 처리장치의 개략적인 구성을 도시하는 블럭도이다.
도 2는 본 발명의 바람직한 일 실시예에 따른 히스토그램 비교부의 개략적인 구성을 도시하는 블력도이다.
도 3은 영상의 밝기에 따른 히스토그램의 분포를 도시한 도면이다. 도 4는 본 발명의 바람직한 일 실시예에 따른 디지털 영상 처리 방법을 설명하기 위한 도면이다.
도 5a는 HDR 영상을 합성하는데 사용되는 저노출 영상의 일례를 나타내는 도면이다.
. 도 5b는 HDR 영상을 합성하는데 사용되는 평균노출 영상의 일례를 나타내는 도면이다.
도 5c는 HDR 영상을 합성하는데 사용되는 고노출 영상의 일 례를 나타내는 도면이다. 도 6a은 종래 HDR 영상의 합성 방법에 따라 도 5a 내지 5c에 개시된 영상을 합성한 영상을 나타낸 도면이다.
도 6b는 본 발명의 바람직한 일 실시예에 따른 기준 영상과 마스킹 영상을 합성하여 생성된 HDR 영상올 나타낸 도면이다.
【발명의 최선의 실시예】
후술하는 본 발명에 대한 상세한 설명은, 본 발명이 실시될 수 있는 특정 실시예를 예시로서 도시하는 첨부 도면을 참조한다. 이들 실시예는 당업자가 본 발명을 실시할 수 있기에 층분하도록 상세히 설명된다. 본 발명의 다양한 실시예는 서로 다르지만 상호 배타적일 필요는 없음이 이해되어야 한다. 예를 들어， 여기에 기재되어 있는 특정 형상， 구조 및 특성은 일 실시예에 관련하여 본 발명의 정신 및 범위를 벗어나지 않으면서 다른 실시예로 구현될 수 있다. 또한， 각각의 개시된 실시예 내의 개별 구성요소의 위치 또는 배치는 본 발명의 정신 및 범위를 벗어나지 않으면서 변경될 수 있음이 이해되어야 한다. 따라서， 후술하는 상세한 설명은 한정적인 의미로서 취하려는 것이 아니며， 본 발명의 범위는, 적절하게 설명된다면, 그 청구항들이 주장하는 것과 균등한 모든 범위와 더불어 첨부된 청구항에 의해서만 한정된다. 도면에서 유사한 참조부호는 여러 측면에 걸쳐서 동일하거나 유사한 기능을 지칭한다.
이하에서는， 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자가 본 발명을 용이하게 실시할 수 있도록 하기 위하여, 본 발명의 바람직한 실시예들에 관하여 첨부된 도면을 참조하여 상세히 설명하기로 한다.
전체 장치의 구성
도 1은 본 발명의 바람직한 일 실시예에 따른 디지털 영상 처리장치의 개략적인 구성을 도시하는 블럭도이다.
도 1을 참조하면， 본 발명의 일 실시예에 따른 디지털 영상 처리장치는 영상 획득부 (100), 히스토그램비교부 (110)， 마스킹 영상 획득부 (120)， 노이즈 제거부 (130)， 비교 대상 영상 조정부 (140), HDR 영상 합성부 (150)， 및 제어부 (160)를 포함한다.
상기 영상 획득부 (100)를 통하여 노출 시간이 서로 다른 복수의 영상이 획득된다. 이하 도 4를 참조로 하여 설명하는 일 실시예에 따르면， 상기 영상 획득부 (100)를 통하여 획득되는 영상은 짧은 노출시간으로 인하여 전체적으로 어두운 저노출 영상 (Low Exposure Image)과, 긴 노출시간으로 인하여 전체적으로 밝은 고노출 영상 (High Exposure Image), 및 상기 저노출 영상과 고노출 영상 사이의 밝기를 가지는 평균노출 영상 (Normal Exposure Image)일 수 있다. 그러나 본 발명은 이에 한정되지 않으며 상기 영상 획득부 (100)를 통하여 저노출 영상 및 고노출 영상과 같이 노출 시간이 서로 다른 2이상의 영상이 획득되는 경우 적용이 가능하다.
상기 히스토그램비교부 (110)는 상기 영상처리부 (100)를 통하여 획득된 영상을 히스토그램으로 변환하고 변환된 영상 중 기준 영상을 설정하여 상기 기준 영상을 상기 영상처리부 (100)를 통하여 획득된 타 영상의 히스토그램과 매칭시키기 위하여 상기 기준 영상의 밝기를 변형시켜 조정 기준 영상을 획득하게 된다.
보다 상세히， 상기 히스토그램의 구성을 도 2를 참조하여 설명한다. 도 2는 본 발명의 바람직한 일 실시예에 따른 히스토그램 비교부의 개략적인 구성을 도시하는 블럭도이다.
도 2를 참조하면， 상기 히스토그램비교부 (110)는 히스토그램변환부 (111), 영상 분류부 (112)， 및 히스토그램 조정부 (113)를 포함한다.
상기 히스토그램변환부 (111)는 상기 영상 획득부 (100)를 통하여 얻어지는 복수의 이미지를 히스토그램으로 변환한다.
히스토그램 (Histogram)이란 디지털 영상신호에서 각 화소의 밝기를 나타내는 레벨 (Level)에 따라 분류하여 정리한 것으로 영상의 화소 레벨의 분포를 의미한다. 영상이 전체적으로 어두우면 히스토그램은 어두운 값 (0에 가까운 값)에 많이 분포되어 있고 반대로 전체적으로 밝으면 히스토그램은 밝은 값 (255에 가까운 값)에 많이 분포되어 있다. 도 3은 영상의 밝기에 따른 히스토그램의 분포를 도시한 도면으로 도 3을 참조하면 원 영상을 밝게 변화시킨 경우 히스토그램 상에서 화소 분포가 밝은 값에 집중되는 것을 확인할 수 있다. 따라서 상기 히스토그램은 영상 내의 객체를 구성하는 요소에 대한 자세한 정보보다는 전체적인 영상의 성질을 나타내는데 적합하다. 또한 상기 히스토그램은 객체의 회전이나 이동 등과 같은 기하학적 변형에도 비교적 영향을 받지 않으며 구현 알고리즘도 간단한 장점이 있다.
상기 영상 분류부 (112)는 상기 히스토그램변환부 (111)를 통하여 히스토그램으로 변환된 복수의 영상 중 어느 한 영상을 기준 영상으로 설정한다. 상기 기준 영상은 상기 저노출 영상， 고노출 영상 또는 평균노출 영상 중 어느 것으로 설정되어도 무방하나 상기 히스토그램 상에서 화소가 균등하게 분포되어 있는 영상으로 설정되는 것이 바람직하다. 도 5a는 HDR 영상올 합성하는데 사용되는 저노출 영상의 일례를 나타내는 도면이고， 도 5b는 HDR 영상을 합성하는데 사용되는 평균노출 영상의 일례를 나타내는 도면이며， 도 5c는 HDR 영상을 합성하는데 사용되는 고노출 영상의 일례를 나타내는 도면이다. 도 5a 내지 도 5c에 개시된 실시예를 참조로 하여 설명하자면 어두운 영역과 밝은 영역에 화소가 골고루 배치되어 있는 평균노출 영상을 기준 영상으로 설정하는 것이 저노출 영상이나 고노출 영상을 기준 영상으로 설정하는 것보다 바람직하다.
상기 기준 영상이 설정되면 상기 히스토그램 조정부 (113)는 상기 기준 영상의 히스토그램의 분포가 상기 영상 획득부 (100)를 통하여 얻어진 상기 기준 영상 이외의 영상， 즉, 타 영상의 히스토그램의 분포와 유사한 화소 배치를 가지도록 상기 기준 영상의 밝기를 변형한다. 이때 상기 기준 영상과 비교되는 타 영상을 비교 대상 영상이라고 정의한다. 따라서 도 5a 내지 도 5c에 도시된 영상 중 평균노출 영상을 기준 영상으로 설정하는 경우 저노출 영상 및 고노출 영상이 비교 대상 영상이 될 수 있다. 상기 기준 영상의 히스토그램의 분포를 비교 대상 영상의 히스토그램의 분포와 유사하도톡 영상의 밝기를 변형한 것올 조정 기준 영상이라 한다.
위와 같은 방법으로 상기 히스토그램비교부 (110)를 통하여 기준 영상의 밝기를 변형하여 조정 기준 영상을 생성할 수 있다.
상기 마스킹 영상 획득부 (120)는 상기 조정 기준 영상과 상기 영상 획득부 (100)로부터 얻어진 비교 대상 영상을 대비하여 양자의 차이에 해당하는 마스킹 영상을 생성한다. 상기 마스킹 영상은 가령 혹백의 영상으로 상기 조정 기준 영상과 상기 비교 대상 영상의 차이를 각 픽셀마다 비교하여 명암이 결정되도톡 할 수 있다ᅳ 도 5a 내지 도 5c를 예를 들어 설명하면， 균노출 영상올 조정 기준 영상으로 저노출 영상을 비교 대상 영상으로 설정하는 경우 상기 평균노출 영상에서 사람이 위치하는 부분 (A)과 저노출 영상에서 사람이 위치하는 부분 (B)이 상이하므로 상기 A, B부분에 대웅되는 부분의 상기 마스크 영상은 어둡게 표현되고， 나머지 부분의 상기 마스크 영상은 양자의 차이가 작으므로 밝게 표현될 수 있다. 다라서 이후 상기 저노출 영상에 상기 마스크 영상을 적용하는 경우 상기 A, B부분은 마스킹되어 삭제되고 나머지 부분만이 남을 수 있다. 또한， 상기 평균노출 영상올 조정 기준 영상으로 고노출 영상을 비교 대상 영상으로 설정하는 경우 상기 평균노출 영상에서 사람이 위치하는 부분 (A)만이 상이하므로 상기 A 부분에 대응되는 부분의 상기 마스크 영상은 어둡게 표현되고， 나머지 부분의 상기 마스크 영상은 밝게 표현될 수 있다. 따라서 이후 상기 고노출 영상에 상기 마스크 영상을 적용하는 경우 상기 A 부분은 마스킹되어 삭제되고 나머지 부분만이 남을 수 있다.
이와 같이 상기 기준 영상의 밝기를 상기 비교 대상 영상과 유사한 수준으로 변환시킨 조정 기준 영상을 이용하여 마스킹 영상을 생성함으로써 상기 기준 영상과 상기 비교영상을 바로 비교하는 경우 자연광 또는 조명의 밝기에 의한 차이를 물체의 변화로 인한 차이로 인식할 가능성을 배제하고， 양 영상에 있어 물체의 변화만을 판별하여 마스킹 영상을 생성할 수 있게 된다.
상기 마스킹 영상 획득부 (120)를 통하여 얻어진 마스킹 영상은 상기 조정 기준 영상과 상기 비교 대상 영상을 바이너리 레벨에서 상호 비교하여 획득한 영상이기 때문에 노이즈가 심할 수 있다. 상기 노이즈제거부 (130)에서는 상기 마스킹 영상에 나타난 노이즈를 제거한다. 보다 상세히， 상기 노이즈제거부 (130)는 침식 (Erosion) 연산과 팽창 (Dilation) 연산을 적어도 1회 반복함으로써 영상에 나타난 물체의 경계 (boundary)를 평활화 (smoothing)할 수 있다.
상기 침식 연산과 팽창 연산은 영상처리에서 이진 영상안의 홀을 채우거나 노이즈를 제거하는데 사용되는 알고리즘으로, 상기 침식 연산은 객체나 작은 조각 (particle)으로부터 레이어를 벗기거나 영상에서 필요 없는 픽셀이나 작은 조각을 제거하는 연산이다. 즉 현재 픽셀의 원본 이미지 주변에 비어있는 부분이 있다면 새로운 이미지의 현재 픽샐을 제거해 준다. 상기 팽창 연산 (Dilation)은 어떤 조각들을 확대시켜 오브젝트나 조각에 층을 산은을기 더하는 연산이다. 즉 현재 픽셀의 원본 이미지 주변에 픽셀이 존재하면 새로운 이미지의 현재 픽샐을 채워 준다. 이를 통하여 상기 팽창 연산은 침식된 조각을 원래의 사이즈로 복원하게 된다.
상기 침식 연산과 팽창 연산은 형태학적인 연산으로 알려진 연 그룹의 부분으로써 이웃 픽셀과 기하학적 관계에 따른 각 픽샐 값 정의하는 이웃한 연산이다. 상기 침식 연산과 팽창 연산 오프닝 (Opening)과 클로우징 (Closing)으로 구분되며 상기 오프닝은 상 침식 연산을 수행한 후 상기 팽창 연산을 수행하는 방식이고, 상기 클로우징은 상기 팽창 연산을 수행한 후 상기 침식 연산을 수행하는 방식이다. 상기 오프닝이 노이즈를 제거하는 알고리즘이라면 상기 클로우징은 이미지의 홀을 채우는 알고리즘으로 볼 수 있다.
본 발명의 일 실시예에 따르면 상기 침식 연산과 팽창 연산은 오프닝으로 이루어질 수 있으나 비단 이에 한정되는 것은 아니며 클로우징 방법으로도 노이즈 제거가 이루어질 수 있다.
상기 노이즈제거부 (130)를 통하여 마스킹 영상의 노이즈를 제거한 후에는 상기 비교 대상 영상 조정부 (140)에서 비교 대상 영상에 마스킹 영상을 적용하여 조정 비교 대상 영상을 생성하고， 상기 HDR 영상의 합성 시 조정 비교 대상 영상의 합성 비율 즉， 조정 비교 대상 영상의 가중치를 결정하게 된다. 상기 가증치는 비교 대상 영상을 구성하는 각 픽셀마다 서로 다른 값으로 결정될 수도 있고， 그 값은 상기 조정 기준 영상과 비교 대상 영상을 히스토그램 상에서 비교하여 얻어지는 차이 값으로 계산될 수 있다. 다시 말해 상기 조정 기준 영상과 비교 대상 영상의 대웅되는 각 픽셀을 히스토그램 상에서 비교하여 얻어지는 차이 값을 0 에서 1 사이의 값으로 노멀라이징 (normalizing)한 값을 가중치로 설정할 수 있다.
이 경우 상기 조정 기준 영상과 비교 대상 영상 사이의 차이가 크면 클수록 상기 가중치는 0에 수렴하여 HDR 영상 합성시 조정 비교 대상 영상이 합성되는 비율은 줄어들고， 상기 조정 기준 영상과 비교 대상 영상 사이의 차이가 작으면 작을수록 상기 가증치는 1에 수렴하여 상기 HDR 영상 합성시 상기 조정 비교 대상 영상이 합성되는 비율은 증가하게 된다. 이는 상기 조정 기준 영상과 비교 대상 영상 사이의 차이가 크면 클수록 이를 잔상으로 판단하여 HDR 영상 생성시 이를 제거하는 방향으로 동작함을 의미한다. 이와 같은 방법으로 최종 합성된 HDR 영상에 잔상이 남는 고스트 현상을 방지할 수 있다. 상기 HDR 영상 합성부 (150)에서는 상기 기준 영상과 상기 조정 비교 대상 영상을 합성하여 최종적인 HDR 영상을 합성한다. 상기 HDR 영상을 합성함에 있어 상기 기준 영상의 가중치는 1로 설정될 수 있고， 상기 조정 비교 대상 영상은 상기 비교 대상 영상 조정부 (140)에서 산출된 가중치가 적용될 수 있다.
상기 제어부 (160)는 상기 영상 획득부 (100)， 히스토그램비교부 (110)， 마스킹 영상 획득부 (120), 노이즈제거부 (130)， 비교 대상 영상 조정부 (140)， 및 HDR 영상 합성부 (150)간의 데이터의 흐름을 제어하는 기능을 수행한다. 즉， 제어부 (160)는 외부로의 /외부로부터의 또는 디지털 영상 처리장치의 각 구성요소 간의 데이터의 흐'름을 제어함으로써， 상기 영상 획득부 (100)， 히스토그램비교부 (110)， 마스킹 영상 획득부 (120)， 노이즈제거부 (130), 비교 대상 영상 조정부 (140)， 및 HDR 영상 합성부 (150)에서 각각 고유 기능을 수행하도록 제어한다.
도시된 구성요소들은 각각이 독립된 하드웨어 혹은 전체적으로 하나의 하드웨어로 구현될 수도 있다. 예를 들어 각각의 영상 처리부들은 FPGA(Field Programmable Gate Array) 혹은 GA(Gate Array)로 구현될 수 있다. 또 다른 실시예에 있어서ᅳ 도시된 구성요소들은 컴퓨터와 프로그램된 코드로 구현될 수 있다. 또 다른 실시예에 있어서, 도시된 구성요소들은 아날로그 카메라， 디지털 카메라 흑은 캠코더 내부에서 디지털 신호처리 프로세서 및 그에 의해 실행되는 명령어 집합들로 구현될 수 있다.
도 4는 본 발명의 바람직한 일 실시예에 따른 디지털 영상 처리 방법을 설명하기 위한 도면이다.
도 4를 참조하면， 본 발명의 일 실시예에 따른 디지털 영상 처리방법은 상기 영상 획득부 (100)를 통하여 노출 시간이 서로 다른 복수의 영상을 획득하는 단계로부터 개시될 수 있다 (S100). 일례로 상기 복수의 영상은 저노출 영상 (Low Exposure Image), 고노출 영상 (High Exposure Image), 및 평균노출 영상 (Normal Exposure Image)일 수 있으나 이에 한정되는 것은 아니며 저노출 영상과 고노출 영상 등 적어도 2 이상의 노출 시간이 서로 다른 영상이 존재하기만 하면 본 발명의 디지털 영상 처리 방법이 적용될 수 있다.
도 5a 내지 도 5c에 나타난 영상을 참조하여 설명하면， 도 5a에 나타난 저노출 영상의 경우 사람이 영상의 중앙에 위치하고 있고， 도 5b에 나타난 평균노출 영상의 경우 사람이 영상의 좌측에 위치하고 있으며, 도 5c에 나타난 고노출 영상의 경우 사람이 보이지 않으므로 이를 종합하면 사람이 중앙에서 좌측으로 이동하고 있음을 알 수 있다. 종래 HDR 영상을 합성하는 경우에는 상기 저노출 영상과 평균노출 영상 및 고노출 영상올 단순히 합성하기 때문에 도 5a 내지 도 5c에서와 같이 영상 속에 이동하는 물체가 존재하는 경우에는 잔상이 남아 선명한 HDR 영상을 획득할 수 없는 문제점이 있었다. 도 6a은 종래 HDR 영상의 합성 방법에 따라 도 5a 내지 도 5c에 개시된 영상을 합성한 영상을 나타낸 도면이다. 도 6a에서도 알 수 있는 바와 같이 최종 합성된 영상 속에 이동하는 사람의 잔상이 남아 선명한 HDR 영상을 얻을 수 없음을 확인할 수 있다.
본 발명은 위와 같은 문제점을 해결하기 위하여 위와 같은 복수의 영상을 상기 히스토그램변환부 (111)를 통하여 히스토그램으로 변환하여 처리한다 (S110). 상기 복수의 영상올 각각 히스토그램으로 변환한 후 그 중 한 영상을 기준 영상으로 설정한다. 이때 상기 저노출 영상의 경우 상기 히스토그램 상에서 어두운 영역에 화소가 집중되어 있을 가능성이 크고， 고노출 영상의 경우 상기 히스토그램 상에서 밝은 영역에 화소가 집중되어 있을 가능성이 크다. 또한 상기 평균노출 영상은 상기 히스토그램 상에서 어두운 영역과 밝은 영역을 포함한 전 영역에 걸쳐 화소가 균등하게 분포할 가능성이 크다. 따라서 바람직하게는 상기 평균노출 영상을 기준 영상으로 설정하고, 상기 평균노출 영상의 히스토그램의 분포가 상기 저노출 영상이나 고노출 영상의 히스토그램의 분포와 기설정된 유사도 이상 유사해질 수 있도록 상기 평균노출 영상의 명암을 변형한다 (S120). 상기 평균노출 영상을 기준 영상으로 설정하는 이유는 화소가 어두운 영역과 밝은 영역에 폭넓게 분포하고 있을 가능성이 높아 타 영상에 비하여 상대적으로 정보의 양이 풍부하다고 볼 수 있기 때문이다. 따라서 상기 평균노출 영상의 히스토그램의 분포를 상기 저노출 영상이나 고노출 영상의 히스토그램의 분포와 유사하게 되도록 변형하는 경우 저정보 영상을 고정보 영상에 매칭시킬 경우에 발생할 수 있는 계단 현상과 같은 에러를 줄일 수 있기 때문이다. 그러나 만약 피사체를 촬영하는 환경이 비교적 밝은 곳일 경우에는 상기 고노출 영상이 상기 평균노출 영상과 비교하여 상대적으로 많은 정보를 포함할 수 있다. 이와 같은 경우에는 상기 고노출 영상을 상기 기준 영상으로 설정하여 상기 고노출 영상의 히스토그램의 분포를 상기 저노출 영상 또는 평균노출 영상의 히스토그램의 분포와 유사하게 되도록 변형할 수 있다.
도 4에 도시된 실시예에 있어 기준 영상인 상기 평균노출 영상의 히스토그램의 분포를 상기 저노출 영상의 히스토그램의 분포와 유사하게 조정하는 것을 제 1 히스토그램 조정이라 정의하고, 상기 평균노출 영상의 히스토그램의 분포를 상기 고노출 영상의 히스토그램의 분포와 유사하게 조정하는 것을 제 2 히스토그램 조정이라 정의한다.
물론 본 발명은 기준 영상과 적어도 하나의 비교 대상 영상이 존재하는 경우 구현이 가능하므로 도 4에 개시된 실시예와 달리 저노출 영상 및 고노출 영상만이 존재하는 경우에도 상기 두 영상 중 어느 하나를 기준 영상으로 설정하고 다른 하나를 비교 대상 영상으로 설정하여 구현할 수도 있다.
상기 기준 영상의 변형으로 인하여 상기 조정 기준 영상과 비교 대상 영상 사이에 밝기로 인한 화소 차이는 무시할 수 있으므로 상기 조정 기준 영상과 비교 대상 영상 사이의 화소 차이는 물체의 이동으로 인한 차이로 판단할 수 있다. 따라서 상기 조정 기준 영상을 마스킹으로 이용하여 상기 비교 대상 영상과 상기 조정 기준 영상 사이의 차이로부터 마스킹 영상을 생성할 수 있다 (S130). 따라서 상기 마스킹 영상은 상기 조정 기준 영상과 비교 대상 영상 사이에서 물체의 이동으로 인해 차이가 존재하는 픽셀만을 표시한 영상이라 할 수 있다. 도 4에 도시된 실시예에 있어 상기 저노출 영상을 조정 기준 영상으로 마스킹하여 생성된 영상을 제 1 마스킹 영상이라고 정의하고， 상기 고노출 영상을 조정 기준' 영상으로 마스킹하여 생성된 영상을 제 2 마스킹 영상이라고 정의한다.
상기 마스킹 영상 획득부 (120)를 통하여 얻어진 마스킹 영상은 상기 조정 기준 영상과 상기 비교 대상 영상을 바이너리 레벨에서 상호 비교하여 획득된 영상이기 때문에 노이즈가 심할 수도 있다. 따라서 상기 노이즈제거부 (130)를 통하여 상기 마스킹 영상에 나타난 노이즈를 제거한다 (S140). 보다 상세히， 상기 노이즈 제거는 침식 연산과 팽창 연산을 적어도 1회 반복함으로써 이루어질 수 있다. 다만， 이와 같은 노이즈 제거 단계가 반드시 필요한 것은 아니다.
상기 노이즈제거부 (130)를 통하여 마스킹 영상의 노이즈를 제거한 후 상기 비교 대상 영상 조정부 (140)를 통하여 상기 비교 대상 영상에 상기 마스킹 영상을 적용하여 조정 비교 대상 영상을 생성하고 상기 조정 비교 대상 영상에 가중치를 부여하게 된다 (S150). 상기 가중치는 상가조정 기준 영상과 비교 대상 영상을 히스토그램 상에서 비교하여 얻어지는 차이값을 0에서 1 사이의 값으로 노멀라이징하여 얻어질 수 있다. 이 경우 상기 조정 기준 영상과 비교 대상 영상 사이의 차이가 '크면 클수록 상기 가중치는 0에 수렴하고， 상기 조정 기준 영상과 비교 대상 영상 사이의 차이가 작으면 작을수록 상기 가중치는 1에 수렴하게 된다.
최종적으로 상기 HDR 영상 합성부 (150)를 통하여 상기 기준 영상과 상기 조정 비교 대상 영상을 합성하여 HDR 영상을 생성하게 된다 (S170). 결국 HDR 영상 생성시 물체의 이동 부분에 대웅되는 픽셀은 기준 영상의 픽셀을 그대로 사용하고 그 외 부분에 .대해서는 서로 다른 노출값을 가지는 영상을 합성하여 HDR 영상으로 구현하게 된다.
도 6b는 위와 같은 방법으로 최종 합성된 HDR 영상을 나타낸 도면이다. 도 6b를 종래 HDR 영상 합성 방법에 의하여 생성된 도 6a와 비교하면， 사람이 이동했음에도 잔상이 거의 남지 않고 선명한 영상을 얻을 수 있음을 확인할 수 있다. 따라서 본 발명을 이용하면 도 6a에 도시된 영상과 같이 물체의 움직임이 있는 영역이 겹쳐지거나 하는 등의 고스트 효과를 없엔 선명한 HDR 영상을 얻을 수 있다.
이상 설명된 본 발명에 따른 실시예들은 다양한 컴퓨터 구성요소를 통하여 수행될 수 있는 프로그램 명령어의 형태로 구현되어 컴퓨터 판독 가능한 기록 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능한 기록 매체는 프로그램 명령어， 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 컴퓨터 판독 가능한 기록 매체에 기록되는 프로그램 명령어는 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 분야의 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능한 기록 매체의 예에는， 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM, DVD와 같은 광기록 매체, 플롭티컬 디스크 (floptical disk)와 같은 자기-광 매체 (magnetooptical media), 및 ROM, RAM, 플래시 메모리 등과 같은 프로그램 명령어를 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령어의 예에는， 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드도 포함된다. 상기 하드웨어 장치는 본 발명에 따른 처리를 수행하기 위해 하나 이상의 소프트웨어 모들로서 작동하도록 구성될 수 있으며， 그 역도 마찬가지이다.
아상에서 본 발명이 구체적인 구성요소 등과 같은 특정 사항들과 한정된 실시예 및 도면에 의해 설명되었으나， 이는 본 발명의 보다 전반적인 이해를 돕기 위해서 제공된 것일 뿐， 본 발명이 상기 실시예들에 한정되는 것은 아니며， 본 발명이 속하는 기술분야에서 통상적인 지식올 가진 자라면 이러한 기재로부터 다양한 수정 및 변형을 꾀할 수 있다.
따라서, 본 발명의 사상은 상기 설명된 실시예에 국한되어 정해져서는 아니 되며, 후술하는 특허청구범위뿐만 아니라 이 특허청구범위와 균등하게 또는 등가적으로 변형된 모든 것들은 본 발명의 사상의 범주에 속한다고 할 것이다.
【산업상 이용가능성】
본 발명은 디지털 영상 처리 장치 등에 이용될 수 있다..

Claims

【청구의 범위】
【청구항 1】
(a) 복수의 영상을 획득하는 단계;
(b) 상기 복수의 영상을 히스토그램으로 변환하는 단계;
(C) 상기 복수의 영상 중 어느 하나를 기준 영상으로 설정하고 나머지 영상을 비교 대상 영상으로 설정하는 단계;
(d) 상기 기준 영상의 히스토그램의 분포를 상기 비교 대상 영상의 히스토그램의 분포와 유사하게 조정하여 조정기준 영상을 생성하는 단계;
(e) 상기 조정 기준 영상과 상기 비교 대상 영상의 차이를 비교하여 마스킹 영상을 생성하는 단계;
(f) 상기 비교 대상 영상에 상기 마스킹 영상을 적용하여 조정 비교 대상 영상을 생성하는 단계; 및
(g) 상기 기준 영상과 상기 조정 비교 대상 영상을 합성하여 HDR 영상을 생성하는 단계를 포함하는 디지털 영상 처리 방법.
[청구항 2】
제 1항에 있어서,
상기 복수의 영상은 짧은 노출시간으로 얻어지는 저노출 영상 (Low Exposure Image), 및 긴 노출시간으로 얻어지는 고노출 영상 (High Exposure Image)을 포함하는 것을 특징으로 하는 디지털 영상 처리 방법.
【청구항 3】
제 1항에 있어서,
상기 (c) 단계는，
히스토그램 상에서 어두운 영역으로부터 밝은 영역에 이르기까지 화소가 상대적으로 균등하게 배치되어 있는 영상을 기준 영상으로 설정하는 것을 특징으로 하는 디지털 영상 처라 방법.
【청구항 4】
제 1항에 있어서,
상기 마스킹 영상은 상기 조정 기준 영상과 상기 비교 대상 영상의 명암 차이를 각 픽셀마다 비교하여 표현한 영상인 것을 특징으로 하는 디지털 영상 처리 방법.
【청구항 5】
제 1항에 있어서，
상기 (g) 단계는,
상기 조정 비교 대상 영상에 가중치를 부여한 후 상기 기준 영상과 합성하는 것을 특징으로 하는 디지털 영상 처리 방법.
【청구항 6】
제 5항에 있어서，
상기 가중치는 상기 조정 기준 영상과 상기 비교 대상 영상을 히스토그램 상에서 비교하여 얻어지는 각 픽셀의 차이값을 0에서 1 사이의 값으로 노멀라이징한 값으로 결정되는 것을 특징으로 하는 디지털 영상 처리 방법.
【청구항 7】
제 6항에 있어서，
상기 조정 기준 영상과 상기 비교 대상 영상 사이의 차이가 커질수록 상기 가중치는 0에 수렴하고, 상기 조정 기준 영상과 상기 비교 대상 영상 사이의 차이가 줄어들수록 상기 가중치는 1에 수렴하는 것을 특징으로 하는 디지털 영상 처리 방법.
【청구항 8】
제 1항에 있어서，
상기 마스킹 영상의 노,이즈를 제거하는 단계를 더 포함하는 것을 특징으로 하는 디지털 영상 처리 방법.
【청구항 9】
제 8항에 있어서，
상기 노이즈를 제거하는 단계는，
침식 (erosion) 연산과 팽창 (dilation) 연산 및 스무딩 (smoothing) 연산을 적어도 1회 반복하여 영상을 처리하는 것을 특징으로 하는 디지털 영상 처리 방법.
【청구항 10】
(a) 복수의 영상을 획득하는 단계;
(b) 상기 복수의 영상을 히스토그램으로 변환하는 단계;
(c) 상기 복수의 영상 중 어느 하나를 기준 영상으로 설정하고 나머지 영상을 제 1 비교 대상 영상 및 제 2 비교 대상 영상으로 설정하는 단계;
(d) 상기 기준 영상의 히스토그램의 분포를 상기 제 1 비교 대상 영상 및 상기 제 2 비교 대상 영상의 히스토그램의 분포와 각각 유사하게 조정하여 제 1 조정기준 영상 및 제 2 조정 기준 영상을 생성하는 단계;
(e) 상기 제 1 조정 기준 영상과 상기 비교 대상 영상의 차이를 비교하여 제 1 마스킹 영상을 생성하고， 상기 제 2 조정 기준 영상과 상기 비교 대상 영상의 차이를 비교하여 제 2 마스킹 영상을 생성하는 단계;
(f) 상기 제 1 비교 대상 영상에 상기 제 1 마스킹 영상을 적용하여 제 1 조정 비교 대상 영상을 생성하고， 상기 제 2 비교 대상 영상에 상기 제 2 마스킹 영상을 적용하여 제 2 조정 비교 대상 영상을 생성하는 단계; 및
(g) 상기 기준 영상과 상기 제 1 및 제 2 조정 비교 대상 영상을 합성하여 HDR영상을 생성하는 단계를 포함하는 디지털 영상 처리 방법.
【청구항 11】
제 10항에 있어서，
상기 복수의 영상은 짧은 노출시간으로 얻어지는 저노출 영상 (Low Exposure Image), 보통 노출시간으로 얻어지는 중간노출 영상 (Normal Exposure Image), 및 긴 노출시간으로 얻어지는 고노출 영상 (High Exposure Image)을 포함하는 것을 특징으로 하는 디지털 영상 처리 방법.
【청구항 12]
복수의 영상을 획득하는 영상 획득부;
상기 복수의 영상을 히스토그램으로 변환하는 히스토그램변환부; 상기 복수의 영상 중 어느 하나를 기준 영상으로 설정하고 나머지 영상을 비교 대상 영상으로 설정하는 영상 분류부;
상기 기준 영상의 히스토그램의 분포를 상기 비교 대상 영상의 히스토그램의 분포와 유사하게 조정하여 조정 기준 영상을 생성하는 히스토그램조정부;
'상기 조정 기준 영상과 상기 비교 대상 영상의 차이를 비교하여 마스킹 영상을 생성하는 마스킹 영상 획득부;
상기 비교 대상 영상에 상기 마스킹 영상을 적용하여 조정 비교 대상 영상을 생성하는 비교 대상 영상 조정부; 및
상기 기준 영상과 상기 조정 비교 대상 영상을 합성하여 HDR 영상을 생성하는 HDR 영상 합성부를 포함하는 디지털 영상 처리 장치.
【청구항 13】
제 12항에 있어서，
상기 복수의 영상은 짧은 노출시간으로 얻어지는 저노출 영상 (Low Exposure Image), 및 긴 노출시간으로 얻어지는 고노출 영상 (High Exposure Image)을 포함하는 것을 특징으로 하는 디지털 영상 처리 장치.
【청구항 14】
제 12항에 있어서，
상기 영상 분류부는,
히스토그램 상에서 어두운 영역으로부터 밝은 영역에 이르기까지 화소가 균등하게 배치되어 있는 영상을 기준 영상으로 설정하는 것을 특징으로 하는 디지털 영상 처리 장치.
【청구항 15】
저 112항에 있어서,
상기 마스킹 영상은 상기 조정 기준 영상과 상기 비교 대상 영상의 명암 차이를 각 픽셀마다 비교하여 표현한 영상인 것을 특징으로 하는 디지털 영상 처리 장치.
【청구항 16]
제 12항에 있어서，
상기 비교 대상 영상 조정부는，
상기 조정 비교 대상 영상에 가중치를 부여한 후 상기 기준 영상과 합성하는 것을 특징으로 하는 디지털 영상 처리 장치.
【청구항 17】
제 16항에 있어서,
상기 가증치는 상기 조정 기준 영상과 상기 비교 대상 영상을 히스토그램 상에서 비교하여 얻어지는 차이 값을 0에서 1 사이의 값으로 노멀라이징한 값으로 결정되는 것을 특징으로 하는 디지털 영상 처리 장치.
【청구항 18】
저 U7항에 있어서,
상기 조정 기준 영상과 상기 비교 대상 영상 사이의 차이가 커질수록 상기 가중치는 0에 수렴하고， 상기 조정 기준 영상과 상기 비교 대상 영상 사이의 차이가 줄어들수록 상기 가중치는 1에 수렴하는 것을 특징으로 하는 디지털 영상 처리 장치.
【청구항 19】
제 12항에 있어서，
상기 마스킹 영상의 노이즈를 제거하는 노이즈제거부를 더 포함하는 것을 특징으로 하는 디지털 영상 처리 장치.
【청구항 20】
제 19항에 있어서，
상기 노이즈제거부는，
침식 연산과 팽창 연산 및 스무딩 연산을 적어도 1회 반복하여 영상을 처리하는 것을 특징으로 하는 디지털 영상 처리 장치.
【청구항 21】
복수의 영상을 획득하는 영상 획득부;
상기 복수의 영상을 히스토그램으로 변환하는 히스토그램 변환부; 상기 복수의 영상 중 어느 하나를 기준 영상으로 설정하고 나머지 영상을 제 1 비교 대상 영상 및 제 2 비교 대상 영상으로 설정하는 영상 ᄇ ᄅ ᄇ .
ΓΤΓ丁,
상기 기준 영상의 히스토그램의 분포를 상기 제 1 비교 대상 영상 및 상기 제 2 비교 대상 영상의 '히스토그램의 분포와 각각 유사하게 조정하여 제 1 조정 기준 영상 및 제 2 조정 기준 영상을 생성하는 히스토그램 조정부; 상기 제 1 조정 기준 영상과 상기 비교 대상 영상의 차이를 비교하여 제 1 마스킹 영상을 생성하고， 상기 제 2 조정 기준 영상과 상기 비교 대상 영상의 차이를 비교하여 제 2 마스킹 영상을 생성하는 마스킹 영상 획득부; 상기 제 1 비교 대상 영상에 상기 제 1 마스킹 영상을 적용하여 제 1 조정 비교 대상 영상을 생성 하고， 상기 제 2 비교 대상 영상에 상기 제 2 마스킹 영상을 적용하여 제 2 조정 비교 대상 영상을 생성 하는 비교 대상 영상 조정부; 및
상기 기준 영상과 상기 제 1 및 제 2 조정 비교 대상 영상을 합성하여 HDR 영상을 생성하는 HDR 영상 합성부를 포함하는 디지 털 영상 처 리 장치 . 【청구항 22]
제 1항 내지 제 11항 중 어느 한 항에 따른 방법을 실행하기 위 한 컴퓨터 프로그램을 기록한 컴퓨터로 판독 가능한 기록 매체 .
PCT/KR2013/001200 2012-02-15 2013-02-15 디지털 영상 처리 방법, 장치, 및 컴퓨터로 판독 가능한 기록 매체 WO2013122419A1 (ko)

Priority Applications (3)

Application Number Priority Date Filing Date Title
US14/343,134 US9189837B2 (en) 2012-02-15 2013-02-15 Method and device for processing digital image, and computer-readable recording medium for processing digital image
EP13749055.3A EP2816527B1 (en) 2012-02-15 2013-02-15 Method and device for processing digital image, and computer-readable recording medium
US14/883,932 US9384539B2 (en) 2012-02-15 2015-10-15 Method and device for processing digital image, and computer-readable recording medium

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020120015544A KR101225482B1 (ko) 2012-02-15 2012-02-15 디지털 영상 처리 방법, 장치, 및 컴퓨터로 판독 가능한 기록 매체
KR10-2012-0015544 2012-02-15

Related Child Applications (2)

Application Number Title Priority Date Filing Date
US14/343,134 A-371-Of-International US9189837B2 (en) 2012-02-15 2013-02-15 Method and device for processing digital image, and computer-readable recording medium for processing digital image
US14/883,932 Continuation US9384539B2 (en) 2012-02-15 2015-10-15 Method and device for processing digital image, and computer-readable recording medium

Publications (1)

Publication Number Publication Date
WO2013122419A1 true WO2013122419A1 (ko) 2013-08-22

Family

ID=47842452

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2013/001200 WO2013122419A1 (ko) 2012-02-15 2013-02-15 디지털 영상 처리 방법, 장치, 및 컴퓨터로 판독 가능한 기록 매체

Country Status (4)

Country Link
US (2) US9189837B2 (ko)
EP (1) EP2816527B1 (ko)
KR (1) KR101225482B1 (ko)
WO (1) WO2013122419A1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150130910A1 (en) * 2013-11-13 2015-05-14 Samsung Display Co., Ltd. Three-dimensional image display device and method of displaying three dimensional image

Families Citing this family (40)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9437171B2 (en) * 2012-12-05 2016-09-06 Texas Instruments Incorporated Local tone mapping for high dynamic range images
KR101387023B1 (ko) 2013-02-28 2014-04-18 김태권 하이 다이나믹 레인지 영상 뷰어 및 그의 영상 처리 방법
US9955084B1 (en) * 2013-05-23 2018-04-24 Oliver Markus Haynold HDR video camera
KR102145201B1 (ko) * 2013-08-12 2020-08-18 삼성전자주식회사 이미지의 동적 범위 향상을 위한 방법 및 장치
US9565416B1 (en) 2013-09-30 2017-02-07 Google Inc. Depth-assisted focus in multi-camera systems
US9615012B2 (en) * 2013-09-30 2017-04-04 Google Inc. Using a second camera to adjust settings of first camera
KR102194233B1 (ko) 2014-05-19 2020-12-22 삼성전자주식회사 깊이 영상 생성 장치 및 방법
WO2016072018A1 (ja) * 2014-11-07 2016-05-12 オリンパス株式会社 撮像装置
CN105260997B (zh) * 2015-09-22 2019-02-01 北京医拍智能科技有限公司 一种自动获取目标图像的方法
US10666750B2 (en) 2015-11-17 2020-05-26 Google Llc Enhanced push messaging
US10212359B2 (en) 2015-12-30 2019-02-19 Cerner Innovation, Inc. Camera normalization
JP2017139691A (ja) * 2016-02-05 2017-08-10 ソニー株式会社 画像処理装置および画像処理方法
CN106067177B (zh) * 2016-06-15 2020-06-26 深圳市万普拉斯科技有限公司 Hdr场景侦测方法和装置
US10635894B1 (en) * 2016-10-13 2020-04-28 T Stamp Inc. Systems and methods for passive-subject liveness verification in digital media
US11373449B1 (en) * 2016-10-13 2022-06-28 T Stamp Inc. Systems and methods for passive-subject liveness verification in digital media
US10482625B1 (en) 2017-03-28 2019-11-19 Amazon Technologies, Inc. Calibration of networked imaging devices to a global color space
JP6887853B2 (ja) * 2017-04-03 2021-06-16 キヤノン株式会社 撮像装置、その制御方法、プログラム
WO2018190649A1 (en) * 2017-04-12 2018-10-18 Samsung Electronics Co., Ltd. Method and apparatus for generating hdr images
US10863105B1 (en) * 2017-06-27 2020-12-08 Amazon Technologies, Inc. High dynamic range imaging for event detection and inventory management
US10491808B1 (en) 2017-06-27 2019-11-26 Amazon Technologies, Inc. Detecting sunlight in images
US10650246B1 (en) 2017-06-27 2020-05-12 Amazon Technologies, Inc. System for determining a camera radiance
WO2019072222A1 (zh) * 2017-10-13 2019-04-18 华为技术有限公司 一种图像处理方法、装置与设备
CN109671106B (zh) 2017-10-13 2023-09-05 华为技术有限公司 一种图像处理方法、装置与设备
US10965894B2 (en) * 2017-11-20 2021-03-30 Flir Commercial Systems, Inc. Short wave infrared image sensor with automatic exposure and dynamic range control
KR102178803B1 (ko) * 2018-01-26 2020-11-16 울산대학교 산학협력단 흉부 의료 영상 판독 지원 시스템 및 방법
US11093771B1 (en) 2018-05-04 2021-08-17 T Stamp Inc. Systems and methods for liveness-verified, biometric-based encryption
US11496315B1 (en) 2018-05-08 2022-11-08 T Stamp Inc. Systems and methods for enhanced hash transforms
US11979668B2 (en) 2018-12-06 2024-05-07 Gopro, Inc. High dynamic range anti-ghosting and fusion
CN109636759B (zh) * 2018-12-18 2020-10-30 深圳市华星光电半导体显示技术有限公司 图像处理方法
KR102648747B1 (ko) 2019-01-18 2024-03-20 삼성전자주식회사 Hdr 이미지를 생성하기 위한 이미징 시스템 및 그것의 동작 방법
US11301586B1 (en) 2019-04-05 2022-04-12 T Stamp Inc. Systems and processes for lossy biometric representations
US11606549B1 (en) * 2019-06-26 2023-03-14 Ball Aerospace & Technologies Corp. Methods and systems for mitigating persistence in photodetectors
US11109010B2 (en) * 2019-06-28 2021-08-31 The United States of America As Represented By The Director Of The National Geospatial-Intelligence Agency Automatic system for production-grade stereo image enhancements
WO2021025445A1 (en) * 2019-08-06 2021-02-11 Samsung Electronics Co., Ltd. Local histogram matching with global regularization and motion exclusion for multi-exposure image fusion
US11200653B2 (en) 2019-08-06 2021-12-14 Samsung Electronics Co., Ltd. Local histogram matching with global regularization and motion exclusion for multi-exposure image fusion
US11984078B2 (en) 2020-07-27 2024-05-14 Lg Electronics Inc. Image display device and system comprising same
KR20220015114A (ko) * 2020-07-30 2022-02-08 삼성전자주식회사 이미지를 처리하기 위한 전자 장치 및 그의 동작 방법
KR102562170B1 (ko) * 2020-08-10 2023-08-01 (주)아이웨이 딥러닝 기반 전자책 자동변환 서비스 제공 방법
CN113344821B (zh) * 2021-06-29 2022-10-21 展讯通信（上海）有限公司 图像降噪方法、装置、终端、存储介质
US11924563B2 (en) * 2021-12-22 2024-03-05 Qualcomm Incorporated High dynamic range (HDR) photography with in-sensor zoom

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008227697A (ja) * 2007-03-09 2008-09-25 Sony Corp 画像処理装置、撮像装置、および画像処理方法、並びにコンピュータ・プログラム
JP2010109948A (ja) * 2008-10-31 2010-05-13 Nidec Copal Corp 広ダイナミックレンジ撮像装置
JP2010134915A (ja) * 2008-11-04 2010-06-17 Omron Corp 画像処理装置
JP2011188277A (ja) * 2010-03-09 2011-09-22 Sony Corp 画像処理装置、画像処理方法およびプログラム
KR20110136152A (ko) 2010-06-14 2011-12-21 삼성전자주식회사 필터링에 기반하여 고스트가 없는 ｈｄｒｉ를 생성하는 장치 및 방법

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7158686B2 (en) * 2002-09-19 2007-01-02 Eastman Kodak Company Enhancing the tonal characteristics of digital images using inflection points in a tone scale function
US7660464B1 (en) * 2005-12-22 2010-02-09 Adobe Systems Incorporated User interface for high dynamic range merge image selection
US8355595B2 (en) * 2007-05-15 2013-01-15 Xerox Corporation Contrast enhancement methods and apparatuses
US8144985B2 (en) * 2007-12-21 2012-03-27 Sony Corporation Method of high dynamic range compression with detail preservation and noise constraints
JP4513905B2 (ja) * 2008-06-27 2010-07-28 ソニー株式会社 信号処理装置、信号処理方法、プログラム及び記録媒体

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008227697A (ja) * 2007-03-09 2008-09-25 Sony Corp 画像処理装置、撮像装置、および画像処理方法、並びにコンピュータ・プログラム
JP2010109948A (ja) * 2008-10-31 2010-05-13 Nidec Copal Corp 広ダイナミックレンジ撮像装置
JP2010134915A (ja) * 2008-11-04 2010-06-17 Omron Corp 画像処理装置
JP2011188277A (ja) * 2010-03-09 2011-09-22 Sony Corp 画像処理装置、画像処理方法およびプログラム
KR20110136152A (ko) 2010-06-14 2011-12-21 삼성전자주식회사 필터링에 기반하여 고스트가 없는 ｈｄｒｉ를 생성하는 장치 및 방법

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP2816527A4

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150130910A1 (en) * 2013-11-13 2015-05-14 Samsung Display Co., Ltd. Three-dimensional image display device and method of displaying three dimensional image
US9756321B2 (en) * 2013-11-13 2017-09-05 Samsung Display Co., Ltd. Three-dimensional image display device and method of displaying three dimensional image

Also Published As

Publication number Publication date
US20140247985A1 (en) 2014-09-04
EP2816527A4 (en) 2015-12-16
US9189837B2 (en) 2015-11-17
EP2816527A1 (en) 2014-12-24
EP2816527B1 (en) 2018-12-05
KR101225482B1 (ko) 2013-01-23
US20160035073A1 (en) 2016-02-04
US9384539B2 (en) 2016-07-05

Similar Documents

Publication Publication Date Title
KR101225482B1 (ko) 디지털 영상 처리 방법, 장치, 및 컴퓨터로 판독 가능한 기록 매체
US11412154B2 (en) Auto exposure of spatially-multiplexed-exposure high-dynamic-range image sensor metric and adjustment
US8989484B2 (en) Apparatus and method for generating high dynamic range image from which ghost blur is removed using multi-exposure fusion
US7787709B2 (en) Method and apparatus for illumination compensation of digital images
US9485435B2 (en) Device for synthesizing high dynamic range image based on per-pixel exposure mapping and method thereof
US9692985B2 (en) Image processing apparatus and image processing method for tone control by applying different gain
CN102625030B (zh) 视频增强方法和系统
US11348210B2 (en) Inverse tone mapping method and corresponding device
US20140218559A1 (en) Image pickup apparatus, image processing apparatus, control method for image pickup apparatus, and image processing method
JP2022501884A (ja) エントロピー分散に基づくイメージセンサの自動露出
CN112734650A (zh) 一种基于虚拟多曝光融合的不均匀光照图像增强方法
JP2015156600A (ja) 画像信号処理装置，画像信号処理方法，および撮像装置
US11995809B2 (en) Method and apparatus for combining low-dynamic range images to a single image
CN113632134A (zh) 使用预组合去噪的高动态范围图像生成
CN110958361B (zh) 能够进行hdr合成的摄像设备及其控制方法和存储介质
JP2010278890A (ja) 画像形成装置、画像形成方法
US9258490B2 (en) Smoothing of ghost maps in a ghost artifact detection method for HDR image creation
US20210374923A1 (en) Image processing device and image processing method
KR100837435B1 (ko) 촬영장치 및 이의 대상 추적제어방법
CN114998173A (zh) 基于局部区域亮度调节的空间环境高动态范围成像方法
US11373316B2 (en) Apparatus and method for calculating motion vector
CN107533757B (zh) 处理图像的装置和方法
JP2010283690A (ja) 画像処理装置、画像処理方法、プログラムおよび記憶媒体
JP5219771B2 (ja) 映像処理装置および映像処理装置の制御方法
US11636576B2 (en) Image processing apparatus for reducing influence of fine particle in an image, control method of same, and non-transitory computer-readable storage medium

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 13749055

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 14343134

Country of ref document: US

WWE Wipo information: entry into national phase

Ref document number: 2013749055

Country of ref document: EP

NENP Non-entry into the national phase

Ref country code: DE