KR102126916B1 - Apparatus and method for reconstructing blurred image - Google Patents
Apparatus and method for reconstructing blurred image Download PDFInfo
- Publication number
- KR102126916B1 KR102126916B1 KR1020180152889A KR20180152889A KR102126916B1 KR 102126916 B1 KR102126916 B1 KR 102126916B1 KR 1020180152889 A KR1020180152889 A KR 1020180152889A KR 20180152889 A KR20180152889 A KR 20180152889A KR 102126916 B1 KR102126916 B1 KR 102126916B1
- Authority
- KR
- South Korea
- Prior art keywords
- filtering
- rotation
- rotation filtering
- image
- target image
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 44
- 238000001914 filtration Methods 0.000 claims abstract description 281
- 238000010586 diagram Methods 0.000 description 9
- 230000006870 function Effects 0.000 description 9
- 238000004891 communication Methods 0.000 description 7
- 238000012546 transfer Methods 0.000 description 4
- 230000006866 deterioration Effects 0.000 description 2
- 230000002542 deteriorative effect Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G06T5/002—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/20—Image enhancement or restoration using local operators
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20024—Filtering details
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
Abstract
블러된 영상 복원을 위한 장치 및 방법이 개시된다. 본 발명의 일 실시예에 따른 영상 복원 장치는, 블러링(blurring) 잡음을 포함하는 복원 대상 영상 내에서 윈도우를 이동시키면서 상기 윈도우 내에 포함된 픽셀들에 대해 역 필터(inverse filter)를 이용한 회전 필터링(rotate filtering)을 수행하는 필터링부; 및 상기 회전 필터링에 의한 필터링 결과에 기초하여, 상기 복원 대상 영상에 대한 상기 회전 필터링의 추가 수행 여부를 판단하는 판단부를 포함하고, 상기 필터링부는, 상기 회전 필터링의 추가 수행이 필요한 경우, 상기 윈도우 및 상기 역 필터의 크기를 변경하여 상기 복원 대상 영상에 대한 추가적인 회전 필터링을 수행한다.Disclosed is an apparatus and method for reconstructing blurred images. The image reconstruction apparatus according to an embodiment of the present invention, while moving a window in an image to be reconstructed including a blurring noise, rotates filtering using an inverse filter for pixels included in the window a filtering unit that performs (rotate filtering); And a determination unit determining whether to perform the rotation filtering on the reconstructed image based on the filtering result by the rotation filtering, and wherein the filtering unit includes the window and By changing the size of the inverse filter, additional rotation filtering is performed on the reconstructed image.
Description
본 발명의 실시예들은 블러된(blurred) 영상 내에 포함된 블러링 잡음(blurring noise)을 제거하기 위한 영상 복원 기술과 관련된다.Embodiments of the present invention relate to an image reconstruction technique for removing blurring noise included in a blurred image.
최근 중요성이 부각되고 있는 법의학 분야에서 디지털 영상처리를 이용하여 시인성 및 가시성이 낮은 범죄 단서 영상 복원에 대한 연구가 활발히 진행 중에 있다. In the field of forensic science, which has recently gained importance, research on reconstruction of criminal cue images with low visibility and low visibility is actively underway.
디지털 영상을 복원하는 기본적인 방법 중 하나로써 역 필터링 (Inverse filtering) 기법이 존재한다. 이는 원본 영상을 훼손하는 열화 함수를 예측 모델링하여 역으로 나누어 역 푸리에 변환을 통해 원본 영상을 구하는 것으로써, 열화함수를 정확히 설계 할 수 있다면 고성능의 영상 복원이 가능하다. 그러나, 이 기법은 훼손된 영상의 블러링 잡음이 호모지니어스(homogeneous)하고 복합 블러링 잡음들(수직 블러링 잡음, 수평 블러링 잡음, 회전 블러링 잡음) 중 한 가지에 의해 훼손되었다는 가정하에 1차원 블러, 2차원 블러, 가우시안 블러 등과 같이 블러 모델을 한 가지씩 구분하여 필터링을 해야 하기 때문에 실제 복원 대상 영상의 복합 블러링 잡음 특성에 유연하게 대처하지 못한다는 단점이 있다.An inverse filtering technique exists as one of the basic methods for reconstructing a digital image. This is to predict the deterioration function that damages the original image and divide it into inverses to obtain the original image through inverse Fourier transform. If the deterioration function can be accurately designed, high-performance image restoration is possible. However, this technique is based on the assumption that the blurring noise of the damaged image is homogeneous and is damaged by one of the complex blurring noises (vertical blurring noise, horizontal blurring noise, and rotating blurring noise). As the blur model must be classified and filtered one by one, such as a blur, a two-dimensional blur, a Gaussian blur, etc., there is a disadvantage that it cannot flexibly cope with the complex blurring noise characteristics of an actual reconstructed image.
본 발명의 실시예들은 블러된 영상에 포함되어 있는 블러링 잡음을 제거하기 위한 영상 복원 장치 및 방법을 제공하기 위한 것이다.Embodiments of the present invention are to provide an image reconstruction apparatus and method for removing blurring noise included in a blurred image.
본 발명의 일 실시예에 따른 영상 복원 장치는, 블러링(blurring) 잡음을 포함하는 복원 대상 영상 내에서 윈도우를 이동시키면서 상기 윈도우 내에 포함된 픽셀들에 대해 역 필터(inverse filter)를 이용한 회전 필터링(rotate filtering)을 수행하는 필터링부; 및 상기 회전 필터링에 의한 필터링 결과에 기초하여, 상기 복원 대상 영상에 대한 상기 회전 필터링의 추가 수행 여부를 판단하는 판단부를 포함하고, 상기 필터링부는, 상기 회전 필터링의 추가 수행이 필요한 경우, 상기 윈도우 및 상기 역 필터의 크기를 변경하여 상기 복원 대상 영상에 대한 추가적인 회전 필터링을 수행한다.The image reconstruction apparatus according to an embodiment of the present invention, while moving a window in an image to be reconstructed including a blurring noise, rotates filtering using an inverse filter for pixels included in the window a filtering unit that performs (rotate filtering); And a determination unit determining whether to perform the rotation filtering on the reconstructed image based on the filtering result by the rotation filtering, and wherein the filtering unit includes the window and By changing the size of the inverse filter, additional rotation filtering is performed on the reconstructed image.
상기 필터링부는, 상기 회전 필터링의 수행 횟수에 기초하여 상기 윈도우 및 상기 역 필터의 크기를 결정할 수 있다.The filtering unit may determine the size of the window and the inverse filter based on the number of times the rotation filtering is performed.
상기 필터링부는, 상기 복원 대상 영상에 대해 수행되는 회전 필터링이 n(이때, n은 n≥1인 자연수)번째 회전 필터링인 경우, 상기 윈도우의 크기를 (2n+1)×(2n+1)으로 설정할 수 있다.When the rotation filtering performed on the image to be reconstructed is the n-th rotation filtering (where n is a natural number of n≥1), the filtering unit sets the size of the window to (2n+1)×(2n+1). Can be set.
상기 필터링부는, 상기 복원 대상 영상에 대해 수행되는 회전 필터링이 n번째 회전 필터링인 경우, 상기 역 필터의 크기를 (2n-1)×(2n+1)으로 설정할 수 있다.The filtering unit may set the size of the inverse filter to (2n-1)×(2n+1) when rotation filtering performed on the reconstructed target image is an n-th rotation filtering.
상기 필터링부는, 상기 복원 대상 영상에 대해 수행되는 회전 필터링이 n번째 회전 필터링인 경우, 아래의 수학식 1을 이용하여 상기 역 필터의 필터 계수(coefficient)를 설정할 수 있다.The filtering unit may set a filter coefficient of the inverse filter by using
[수학식 1][Equation 1]
(이때, Ci,j는 상기 필터 계수)(At this time, C i,j is the filter coefficient)
상기 필터링부는, 상기 복원 대상 영상에 대해 수행되는 회전 필터링이 n번째 회전 필터링인 경우, 상기 윈도우의 크기를 1×(2n+1)으로 설정할 수 있다.When the rotation filtering performed on the restoration target image is the n-th rotation filtering, the filtering unit may set the size of the window to 1×(2n+1).
상기 필터링부는, 상기 복원 대상 영상에 대해 수행되는 회전 필터링이 n번째 회전 필터링인 경우, 아래의 수학식 2를 이용하여 상기 역 필터의 필터 계수(coefficient)를 설정할 수 있다.The filtering unit may set a filter coefficient of the inverse
[수학식 2][Equation 2]
(이때, Cj는 상기 필터 계수)(At this time, C j is the filter coefficient)
상기 판단부는, 상기 복원 대상 영상에 포함된 각 픽셀의 픽셀 값과 상기 각 픽셀에 대한 회전 필터링 결과 값들 사이의 AMSE(Average Mean Square Error)를 산출하고, 상기 AMSE에 기초하여 상기 회전 필터링의 추가 수행 여부를 판단할 수 있다.The determining unit calculates an average mean square error (AMSE) between a pixel value of each pixel included in the reconstructed target image and rotation filtering result values for each pixel, and further performs the rotation filtering based on the AMSE Can determine whether
상기 판단부는, 상기 복원 대상 영상에 대해 수행된 n-1(이때, n은 n≥2인 자연수)번째 회전 필터링에 의한 회전 필터링 결과 값들을 이용하여 산출된 AMSE와 상기 복원 대상 영상에 대해 수행된 n번째 회전 필터링에 의한 회전 필터링 결과 값들을 이용하여 산출된 AMSE 사이의 절대치 오차에 기초하여 상기 회전 필터링의 추가 수행 여부를 판단할 수 있다.The determination unit is performed on the AMSE calculated using the rotation filtering result values of the n-1 (in this case, n is a natural number of n≥2) rotation performed on the restoration target image and the restoration target image It may be determined whether the rotation filtering is additionally performed based on an absolute error between AMSEs calculated using the rotation filtering result values by the n-th rotation filtering.
상기 AMSE는, 아래의 수학식 3을 이용하여 산출될 수 있다.The AMSE can be calculated using Equation 3 below.
[수학식 3][Equation 3]
(이때, n은 상기 회전 필터링의 수행 횟수, x는 상기 픽셀 값, 는 상기 회전 필터링 결과 값)(In this case, n is the number of times the rotation filtering is performed, x is the pixel value, Is the rotation filtering result value)
상기 필터링부는, 상기 복원 대상 영상에 대해 n번째 회전 필터링이 수행되는 경우, 아래의 수학식 4를 이용하여 복원 대상 영상의 각 픽셀에 대한 회전 필터링 결과 값들의 평균 값을 산출하고, 상기 n번째 회전 필터링이 상기 복원 대상 영상에 대해 마지막으로 수행된 회전 필터링인 경우, 상기 평균 값을 복원 영상의 픽셀 값으로 결정할 수 있다.When the n-th rotation filtering is performed on the restoration target image, the filtering unit calculates an average value of rotation filtering result values for each pixel of the restoration target image using Equation 4 below, and the n-th rotation When the filtering is rotation filtering performed last on the reconstructed image, the average value may be determined as a pixel value of the reconstructed image.
[수학식 4][Equation 4]
(이때, 은 상기 평균 값, 는 상기 회전 필터링 결과 값)(At this time, Is the average value, Is the rotation filtering result value)
본 발명의 일 실시예에 따른 영상 복원 방법은, 블러링(blurring) 잡음을 포함하는 복원 대상 영상 내에서 윈도우를 이동시키면서 상기 윈도우 내에 포함된 픽셀들에 대해 역 필터(inverse filter)를 이용한 회전 필터링(rotate filtering)을 수행하는 단계; 상기 회전 필터링에 의한 필터링 결과에 기초하여, 상기 복원 대상 영상에 대한 상기 회전 필터링의 추가 수행 여부를 판단하는 단계; 및 상기 회전 필터링의 추가 수행이 필요한 경우, 상기 윈도우 및 상기 역 필터의 크기를 변경하여 상기 복원 대상 영상에 대한 추가적인 회전 필터링을 수행하는 단계를 포함한다.In an image restoration method according to an embodiment of the present invention, rotation filtering using an inverse filter for pixels included in the window while moving a window in a restoration target image including blurring noise (rotate filtering); Determining whether the rotation filtering is additionally performed on the reconstructed target image based on a result of filtering by the rotation filtering; And when it is necessary to additionally perform the rotation filtering, changing the size of the window and the inverse filter to perform additional rotation filtering on the reconstructed image.
상기 윈도우 및 상기 역 필터의 크기는, 상기 회전 필터링의 수행 횟수에 기초하여 결정될 수 있다.The size of the window and the inverse filter may be determined based on the number of times the rotation filtering is performed.
상기 회전 필터링을 수행하는 단계 및 추가적인 회전 필터링을 수행하는 단계는, 상기 복원 대상 영상에 대해 수행되는 회전 필터링이 n(이때, n은 n≥1인 자연수)번째 회전 필터링인 경우, 상기 윈도우의 크기를 (2n+1)×(2n+1)으로 설정할 수 있다.The step of performing the rotation filtering and the step of performing the additional rotation filtering may include the size of the window when the rotation filtering performed on the reconstructed target image is an n (where n is a natural number with n≥1) th rotation filtering. Can be set to (2n+1)×(2n+1).
상기 회전 필터링을 수행하는 단계 및 추가적인 회전 필터링을 수행하는 단계는, 상기 복원 대상 영상에 대해 수행되는 회전 필터링이 n번째 회전 필터링인 경우, 상기 역 필터의 크기를 (2n-1)×(2n+1)으로 설정할 수 있다.In the step of performing the rotation filtering and the step of performing the additional rotation filtering, when the rotation filtering performed on the reconstructed target image is the n-th rotation filtering, the size of the inverse filter is (2n-1)×(2n+) It can be set as 1).
상기 회전 필터링을 수행하는 단계 및 추가적인 회전 필터링을 수행하는 단계는, 상기 복원 대상 영상에 대해 수행되는 회전 필터링이 n번째 회전 필터링인 경우, 아래의 수학식 1을 이용하여 상기 역 필터의 필터 계수(coefficient)를 설정할 수 있다.In the step of performing the rotation filtering and the step of performing the additional rotation filtering, when the rotation filtering performed on the image to be reconstructed is the n-th rotation filtering, filter coefficients of the inverse
[수학식 1][Equation 1]
(이때, Ci,j는 상기 필터 계수)(At this time, C i,j is the filter coefficient)
상기 회전 필터링을 수행하는 단계 및 추가적인 회전 필터링을 수행하는 단계는, 상기 복원 대상 영상에 대해 수행되는 회전 필터링이 n번째 회전 필터링인 경우, 상기 윈도우의 크기를 1×(2n+1)으로 설정할 수 있다.In the step of performing the rotation filtering and the step of performing the additional rotation filtering, when the rotation filtering performed on the restoration target image is the n-th rotation filtering, the size of the window may be set to 1×(2n+1). have.
상기 회전 필터링을 수행하는 단계 및 추가적인 회전 필터링을 수행하는 단계는, 상기 복원 대상 영상에 대해 수행되는 회전 필터링이 n번째 회전 필터링인 경우, 아래의 수학식 2를 이용하여 상기 역 필터의 필터 계수(coefficient)를 설정할 수 있다.In the step of performing the rotation filtering and the step of performing the additional rotation filtering, when the rotation filtering performed on the reconstructed target image is the n-th rotation filtering, filter coefficients of the inverse
[수학식 2][Equation 2]
(이때, Cj는 상기 필터 계수)(At this time, C j is the filter coefficient)
상기 판단하는 단계는, 상기 복원 대상 영상에 포함된 각 픽셀의 픽셀 값과 상기 각 픽셀에 대한 회전 필터링 결과 값들 사이의 AMSE(Average Mean Square Error)를 산출하고, 상기 AMSE에 기초하여 상기 회전 필터링의 추가 수행 여부를 판단할 수 있다.In the determining step, an average mean square error (AMSE) between a pixel value of each pixel included in the reconstructed image and a rotation filtering result value for each pixel is calculated, and the rotation filtering is performed based on the AMSE. It can be determined whether or not to perform additional.
상기 판단하는 단계는, 상기 복원 대상 영상에 대해 수행된 n-1(이때, n은 n≥2인 자연수)번째 회전 필터링에 의한 회전 필터링 결과 값들을 이용하여 산출된 AMSE와 상기 복원 대상 영상에 대해 수행된 n번째 회전 필터링에 의한 회전 필터링 결과 값들을 이용하여 산출된 AMSE 사이의 절대치 오차에 기초하여 상기 회전 필터링의 추가 수행 여부를 판단할 수 있다.In the determining, the AMSE calculated using the rotation filtering result values of the n-1 (where n is a natural number of n≥2) rotation performed on the restoration target image and the restoration target image It is possible to determine whether to perform the rotation filtering further based on the absolute error between AMSE calculated using the rotation filtering result values obtained by the n-th rotation filtering.
상기 AMSE는, 아래의 수학식 3을 이용하여 산출될 수 있다. The AMSE can be calculated using Equation 3 below.
[수학식 3][Equation 3]
(이때, n은 상기 회전 필터링의 수행 횟수, x는 상기 픽셀 값, 는 상기 회전 필터링 결과 값)(In this case, n is the number of times the rotation filtering is performed, x is the pixel value, Is the rotation filtering result value)
상기 영상 복원 방법은, 상기 복원 대상 영상에 대해 n번째 회전 필터링이 수행되는 경우, 아래의 수학식 4를 이용하여 복원 대상 영상의 각 픽셀에 대한 회전 필터링 결과 값들의 평균 값을 산출하는 단계; 및 상기 n번째 회전 필터링이 상기 복원 대상 영상에 대해 마지막으로 수행된 회전 필터링인 경우, 상기 평균 값을 복원 영상의 픽셀 값으로 결정하는 단계를 더 포함할 수 있다.In the image reconstruction method, when n-th rotation filtering is performed on the restoration target image, calculating an average value of rotation filtering result values for each pixel of the restoration target image using Equation 4 below; And if the n-th rotation filtering is rotation filtering performed last on the reconstructed target image, determining the average value as a pixel value of the reconstructed image.
[수학식 4][Equation 4]
(이때, 은 상기 평균 값, 는 상기 회전 필터링 결과 값)(At this time, Is the average value, Is the rotation filtering result value)
본 발명의 실시예들에 따르면, 회전 필터링을 통해 수직 블러링 잡음, 수평 블러링 잡음, 회전 블러링 잡음과 같이 복원 대상 영상에 포함되어 있는 다양한 블러링 잡음들을 제거함으로써, 복원 대상 영상에 포함된 블러링 잡음의 특성에 유연한 잡음 제거가 가능하게 된다.According to embodiments of the present invention, by removing various blurring noises included in an image to be reconstructed, such as vertical blurring noise, horizontal blurring noise, and rotation blurring noise, through rotation filtering, included in the reconstruction target image Flexible noise reduction is possible due to the characteristics of blurring noise.
도 1은 본 발명의 일 실시예에 따른 영상 복원 장치의 구성도
도 2는 복원 대상에 대해 최초로 수행되는 회전 필터링의 일 예를 설명하기 위한 예시도
도 3은 복원 대상에 대해 두 번째로 수행되는 회전 필터링의 일 예를 설명하기 위한 예시도
도 4는 복원 대상에 대해 세 번째로 수행되는 회전 필터링의 일 예를 설명하기 위한 예시도
도 5는 복원 대상에 대해 두 번째로 수행되는 회전 필터링의 다른 예를 설명하기 위한 예시도
도 6은 복원 대상에 대해 세 번째로 수행되는 회전 필터링의 다른 예를 설명하기 위한 예시도
도 7은 본 발명의 일 실시예에 따른 영상 복원 방법의 순서도
도 8은 본 발명의 일 실시예에 따른 영상 복원 방법의 상세 절차를 나타낸 순서도
도 9는 본발명의 예시적인 실시예들에서 사용되기에 적합한 컴퓨팅 장치를 포함하는 컴퓨팅 환경을 예시하여 설명하기 위한 블록도1 is a configuration diagram of an image restoration apparatus according to an embodiment of the present invention
2 is an exemplary diagram for explaining an example of rotation filtering performed for a restoration target for the first time;
3 is an exemplary diagram for explaining an example of rotation filtering performed for a second restoration target;
4 is an exemplary view for explaining an example of rotation filtering performed for a third time for a restoration target
5 is an exemplary view for explaining another example of rotation filtering performed for a second restoration target;
FIG. 6 is an exemplary diagram for explaining another example of rotation filtering performed for a third restoration target;
7 is a flowchart of an image restoration method according to an embodiment of the present invention
8 is a flowchart illustrating a detailed procedure of an image restoration method according to an embodiment of the present invention
9 is a block diagram illustrating and illustrating a computing environment including a computing device suitable for use in exemplary embodiments of the present invention
이하, 도면을 참조하여 본 발명의 구체적인 실시형태를 설명하기로 한다. 이하의 상세한 설명은 본 명세서에서 기술된 방법, 장치 및/또는 시스템에 대한 포괄적인 이해를 돕기 위해 제공된다. 그러나 이는 예시에 불과하며 본 발명은 이에 제한되지 않는다.Hereinafter, specific embodiments of the present invention will be described with reference to the drawings. The following detailed description is provided to aid in a comprehensive understanding of the methods, devices and/or systems described herein. However, this is only an example and the present invention is not limited thereto.
본 발명의 실시예들을 설명함에 있어서, 본 발명과 관련된 공지기술에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명을 생략하기로 한다. 그리고, 후술되는 용어들은 본 발명에서의 기능을 고려하여 정의된 용어들로서 이는 사용자, 운용자의 의도 또는 관례 등에 따라 달라질 수 있다. 그러므로 그 정의는 본 명세서 전반에 걸친 내용을 토대로 내려져야 할 것이다. 상세한 설명에서 사용되는 용어는 단지 본 발명의 실시예들을 기술하기 위한 것이며, 결코 제한적이어서는 안 된다. 명확하게 달리 사용되지 않는 한, 단수 형태의 표현은 복수 형태의 의미를 포함한다. 본 설명에서, "포함" 또는 "구비"와 같은 표현은 어떤 특성들, 숫자들, 단계들, 동작들, 요소들, 이들의 일부 또는 조합을 가리키기 위한 것이며, 기술된 것 이외에 하나 또는 그 이상의 다른 특성, 숫자, 단계, 동작, 요소, 이들의 일부 또는 조합의 존재 또는 가능성을 배제하도록 해석되어서는 안 된다.In describing the embodiments of the present invention, when it is determined that a detailed description of known technology related to the present invention may unnecessarily obscure the subject matter of the present invention, the detailed description will be omitted. In addition, terms to be described later are terms defined in consideration of functions in the present invention, which may vary according to a user's or operator's intention or practice. Therefore, the definition should be made based on the contents throughout this specification. The terminology used in the detailed description is only for describing embodiments of the present invention and should not be limiting. Unless expressly used otherwise, a singular form includes a plural form. In this description, expressions such as “including” or “equipment” are intended to indicate certain characteristics, numbers, steps, actions, elements, parts or combinations thereof, and one or more other than described. It should not be interpreted to exclude the presence or likelihood of other features, numbers, steps, actions, elements, or parts or combinations thereof.
도 1은 본 발명의 일 실시예에 따른 영상 복원 장치의 구성도이다. 1 is a configuration diagram of an image restoration apparatus according to an embodiment of the present invention.
도 1을 참조하면, 본 발명의 일 실시예에 따른 영상 복원 장치(100)는 필터링부(110) 및 판단부(120)를 포함한다.Referring to FIG. 1, an
본 발명의 실시예에서, 영상 복원 장치(100)는 블러링(blurring) 잡음을 포함하고 있는 복원 대상 영상으로부터 블러링 잡음이 제거된 복원 영상을 생성하기 위한 것이다. 이때, 복원 대상 영상에 포함된 블러링 잡음은 수직 블러링 잡음, 수평 블러링 잡음 및 회전 블러링 잡음 중 적어도 하나를 포함할 수 있다.In an embodiment of the present invention, the
필터링부(110)는 복원 대상 영상 내에서 윈도우를 이동시키면서 윈도우 내에 포함된 픽셀들에 대해 역 필터(inverse filter)를 이용한 회전 필터링(rotate filtering)을 수행한다. 또한, 필터링부(110)는 후술할 바와 같이 회전 필터링의 추가 수행이 필요한 경우, 윈도우 및 역 필터의 크기를 변경하여 복원 대상 영상에 대한 추가적인 회전 필터링을 수행한다.The
이때, 역 필터는 원본 영상이 열화되는 과정이 원본 영상과 블러를 발생시키는 전달함수 간의 필터링으로 이루어진다는 점을 이용한 것으로, 블러를 발생시키는 전달 함수를 예측 모델링한 후 예측 모델링된 전달 함수와 역수 관계에 있는 함수를 전달 함수로 이용한 필터링을 수행하여 열화된 영상에 포함된 블러링 잡음을 제거하기 위한 것이다.At this time, the inverse filter uses the fact that the process of deteriorating the original image consists of filtering between the original image and the transfer function that generates blur. After predictive modeling the transfer function that generates blur, the predicted modeled transfer function and inverse relationship To remove the blurring noise included in the degraded image by performing filtering using the function in the transfer function.
한편, 본 발명의 일 실시예에 따르면, 필터링부(110)에 의해 수행되는 회전 필터링은 역 필터를 윈도우 내에서 시계 방향 또는 시계 반대방향으로 회전시키면서 윈도우 내에 포함된 각 픽셀들에 대한 필터링을 수행하되, 윈도우를 복원 대상 영상 내에서 미리 설정된 간격만큼 순차적으로 이동시키면서 필터링을 수행하여 복원 대상 영상에 포함된 블러링 잡음을 제거하는 방식의 필터링 동작을 의미한다. 이때, 필터링부(110)는 예를 들어, 복원 대상 영상의 좌측 상단에 윈도우를 설정한 후, 윈도우를 복원 대상 영상 내에서 X축 및 Y축 방향으로 일정 간격만큼 순차적으로 이동시킬 수 있다. Meanwhile, according to an embodiment of the present invention, the rotation filtering performed by the
한편, 본 발명의 일 실시예에 따르면, 필터링부(110)는 복원 대상 영상에 대한 회전 필터링이 완료된 이후, 추가적인 회전 필터링 수행이 요구되는 경우, 윈도우 및 역 필터의 크기를 변경하여 복원 대상 영상에 대한 추가적인 회전 필터링을 수행할 수 있다. 즉, 필터링부(110)는 윈도우 및 역 필터의 크기를 변경하면서 복원 대상 영상에 대해 반복적으로 회전 필터링을 수행할 수 있으며, 이때, 윈도우 및 역 필터의 크기는 복원 대상 영상에 대한 회전 필터링의 수행 횟수에 기초하여 결정될 수 있다.On the other hand, according to an embodiment of the present invention, after the rotation filtering for the reconstructed target image is completed, when additional rotation filtering is required, the
구체적으로, 본 발명의 일 실시예에 따르면, 필터링부(110)는 복원 대상 영상에 대해 수행할 회전 필터링이 n(이때, n은 n≥1인 자연수)번째 회전 필터링인 경우, 윈도우의 크기를 (2n+1)×(2n+1)으로 설정할 수 있다. 즉, 필터링부(110)는 복원 대상 영상에 대해 최초로 회전 필터링을 수행하는 경우, 윈도우의 크기를 3×3으로 설정하고, 복원 대상 영상에 대해 두 번째로 회전 필터링이 수행하는 경우, 윈도우의 크기를 5×5로 설정할 수 있다.Specifically, according to an embodiment of the present invention, the
한편, 본 발명의 일 실시예에 따르면, 필터링부(110)는 복원 대상 영상에 대해 수행할 회전 필터링이 n(이때, n은 n≥1인 자연수)번째 회전 필터링인 경우, 역 필터의 크기를 (2n-1)×(2n+1)으로 설정할 수 있다. 이 경우, 필터링부(110)는 아래의 수학식 1을 이용하여 역 필터의 필터 계수(filter coefficient)를 설정할 수 있다.Meanwhile, according to an embodiment of the present invention, the
[수학식 1][Equation 1]
수학식 1에서, Ci,j는 역 필터의 필터 계수를 나타내며, i 및 j는 역 필터를 하나의 행렬로 보았을 때, 행과 열을 나타내는 인덱스이다.In
즉, 필터링부(110)는 복원 대상 영상에 대해 최초로 회전 필터링을 수행하는 경우, 역 필터의 크기를 1×3으로 설정하고, 필터 계수를 1/3로 설정할 수 있다. 또한, 필터링부(110)는 복원 대상 영상에 대해 두 번째로 회전 필터링을 수행하는 경우, 역 필터의 크기를 3×5로 설정하고, 필터 계수를 1/15로 설정할 수 있다.That is, when performing rotation filtering on the reconstructed image for the first time, the
한편, 본 발명의 다른 실시예에 따르면, 필터링부(110)는 복원 대상 영상에 대해 수행할 회전 필터링이 n(이때, n은 n≥1인 자연수)번째 회전 필터링인 경우, 역 필터의 크기를 1×(2n+1)으로 설정할 수 있다. 이 경우, 필터링부(110)는 아래의 수학식 2를 이용하여 역 필터의 필터 계수를 설정할 수 있다.Meanwhile, according to another embodiment of the present invention, the
[수학식 2][Equation 2]
즉, 필터링부(110)는 복원 대상 영상에 대해 최초로 회전 필터링을 수행하는 경우, 역 필터의 크기를 1×3으로 설정하고, 필터 계수를 1/3로 설정할 수 있다. 또한, 필터링부(110)는 복원 대상 영상에 대해 두 번째로 회전 필터링을 수행할 경우, 역 필터의 크기를 1×5로 설정하고, 필터 계수를 1/5로 설정할 수 있다.That is, when performing rotation filtering on the reconstructed image for the first time, the
구체적으로, 도 2는 복원 대상에 대해 최초로 수행되는 회전 필터링의 일 예를 설명하기 위한 예시도이다.Specifically, FIG. 2 is an exemplary diagram for explaining an example of rotation filtering performed for a restoration object for the first time.
도 2에서 원으로 표시된 부분은 윈도우 내에 포함된 복원 대상 영상의 픽셀들을 나타낸다. The circled portion in FIG. 2 represents pixels of an image to be reconstructed included in a window.
도 2를 참조하면, 회전 필터링이 최초 수행되는 경우, 윈도우의 크기는 3×3으로 설정될 수 있으며, 이에 따라, 윈도우 내에는 9개의 픽셀이 포함될 수 있다. 또한, 역 필터(200)의 크기는 1×3으로 설정되고, 역 필터(200)의 필터 계수는 1/3으로 설정될 수 있다. 또한, 필터링부(110)는 도시된 바와 같이 역 필터(200)를 윈도우 내에서 시계 방향으로 회전하면서, 윈도우 내 픽셀들에 대한 필터링을 수행할 수 있다.Referring to FIG. 2, when rotation filtering is first performed, the size of the window may be set to 3×3, and accordingly, 9 pixels may be included in the window. Also, the size of the
도 3은 복원 대상에 대해 두 번째로 수행되는 회전 필터링의 일 예를 설명하기 위한 예시도이다.3 is an exemplary view for explaining an example of rotation filtering performed for a second restoration target.
도 3에서 원으로 표시된 부분은 윈도우 내에 포함된 복원 대상 영상의 픽셀들을 나타낸다. The circled portion in FIG. 3 represents pixels of an image to be reconstructed included in a window.
도 3을 참조하면, 회전 필터링이 두 번째로 수행되는 경우, 윈도우의 크기는 5×5으로 설정될 수 있으며, 이에 따라, 윈도우 내에는 25개의 픽셀이 포함될 수 있다. 또한, 역 필터(300)의 크기는 3×5으로 설정되고, 역 필터(300)의 필터 계수는 1/15으로 설정될 수 있다. 또한, 필터링부(110)는 도시된 바와 같이 역 필터(300)를 윈도우 내에서 시계 방향으로 회전하면서, 윈도우 내 픽셀들에 대한 필터링을 수행할 수 있다.Referring to FIG. 3, when rotation filtering is performed a second time, the size of the window may be set to 5×5, and accordingly, 25 pixels may be included in the window. In addition, the size of the
도 4는 복원 대상에 대해 세 번째로 수행되는 회전 필터링의 일 예를 설명하기 위한 예시도이다.4 is an exemplary view for explaining an example of rotation filtering performed for a third time to a restoration target.
도 4에서 원으로 표시된 부분은 윈도우 내에 포함된 복원 대상 영상의 픽셀들을 나타낸다. The circled portion in FIG. 4 represents pixels of an image to be reconstructed included in a window.
도 4를 참조하면, 회전 필터링이 세 번째로 수행되는 경우, 윈도우의 크기는 7×7으로 설정될 수 있으며, 이에 따라, 윈도우 내에는 49개의 픽셀이 포함될 수 있다. 또한, 역 필터(400)의 크기는 5×7으로 설정되고, 역 필터(400)의 필터 계수는 1/35으로 설정될 수 있다. 또한, 필터링부(110)는 도시된 바와 같이 역 필터(400)를 윈도우 내에서 시계 방향으로 회전하면서, 윈도우 내 픽셀들에 대한 필터링을 수행할 수 있다.Referring to FIG. 4, when rotation filtering is performed a third time, the size of the window may be set to 7×7, and accordingly, 49 pixels may be included in the window. In addition, the size of the
도 5는 복원 대상에 대해 두 번째로 수행되는 회전 필터링의 다른 예를 설명하기 위한 예시도이다.5 is an exemplary view for explaining another example of rotation filtering performed for a second restoration target.
도 5에서 원으로 표시된 부분은 윈도우 내에 포함된 복원 대상 영상의 픽셀들을 나타낸다. The circled portion in FIG. 5 represents pixels of an image to be reconstructed included in a window.
도 5를 참조하면, 회전 필터링이 두 번째로 수행되는 경우, 윈도우의 크기는 5×5으로 설정될 수 있으며, 이에 따라, 윈도우 내에는 25개의 픽셀이 포함될 수 있다. 또한, 역 필터(500)의 크기는 1×5로 설정되고, 역 필터(500)의 필터 계수는 1/5으로 설정될 수 있다. 또한, 필터링부(110)는 도시된 바와 같이 역 필터(500)를 윈도우 내에서 시계 방향으로 회전하면서, 윈도우 내 픽셀들에 대한 필터링을 수행할 수 있다.Referring to FIG. 5, when rotation filtering is performed a second time, the size of the window may be set to 5×5, and accordingly, 25 pixels may be included in the window. In addition, the size of the
도 6은 복원 대상에 대해 세 번째로 수행되는 회전 필터링의 다른 예를 설명하기 위한 예시도이다.6 is an exemplary diagram for explaining another example of rotation filtering performed for a third time to a restoration target.
도 6에서 원으로 표시된 부분은 윈도우 내에 포함된 복원 대상 영상의 픽셀들을 나타낸다. The circled portion in FIG. 6 represents pixels of an image to be reconstructed included in a window.
도 6을 참조하면, 회전 필터링이 세 번째로 수행되는 경우, 윈도우의 크기는 7×7으로 설정될 수 있으며, 이에 따라, 윈도우 내에는 49개의 픽셀이 포함된다. 또한, 역 필터(600)의 크기는 1×7으로 설정되고, 역 필터(600)의 필터 계수는 1/7으로 설정된다. 또한, 필터링부(110)는 도시된 바와 같이 역 필터(600)를 윈도우 내에서 시계 방향으로 회전하면서, 윈도우 내 픽셀들에 대한 필터링을 수행할 수 있다.Referring to FIG. 6, when rotation filtering is performed a third time, the size of the window may be set to 7×7, and accordingly, 49 pixels are included in the window. In addition, the size of the inverse filter 600 is set to 1×7, and the filter coefficient of the inverse filter 600 is set to 1/7. Also, the
다시, 도 1을 참조하면, 판단부(120)는 복원 대상 영상에 대해 수행된 회전 필터링 결과에 기초하여 복원 대상 영상에 대한 회전 필터링의 추가 수행 여부를 판단한다.Referring to FIG. 1 again, the
본 발명의 일 실시예에 따르면, 판단부(120)는 복원 대상 영상에 포함된 각 픽셀의 픽셀 값과 각 픽셀에 회전 필터링을 적용한 결과 값들을 이용하여 AMSE(Average Mean Square Error)를 산출하고, 산출된 AMSE에 기초하여 복원 대상 영상에 대한 회전 필터링의 추가 수행 여부를 판단할 수 있다.According to an embodiment of the present invention, the
구체적으로, 도 2 내지 도 6에 도시된 예와 같이, 복원 대상 영상에 대해 n번째 회전 필터링이 수행되는 경우, 윈도우 내에서 역 필터가 회전하면서 반복적으로 필터링을 수행하게 된다. 따라서, n번째 회전 필터링이 수행되는 경우, 복원 대상 영상에 포함된 특정 픽셀 x에 대해 4n-1개의 회전 필터링 결과 값( )들이 출력될 수 있다. 이때, 판단부(120)는 예를 들어, 아래의 수학식 3을 이용하여 복원 대상 영상에 포함된 특정 픽셀 x의 픽셀 값과 해당 픽셀 x에 대한 n번째 회전 필터링 결과 값( )들 사이의 AMSE( )를 산출할 수 있다.Specifically, as illustrated in FIGS. 2 to 6, when n-th rotation filtering is performed on an image to be reconstructed, filtering is repeatedly performed while an inverse filter rotates within a window. Accordingly, when n-th rotation filtering is performed, 4n-1 rotation filtering result values (for a specific pixel x included in the reconstructed image) ) Can be output. At this time, the
[수학식 3][Equation 3]
이후, 판단부(120)는 복원 대상 영상에 대해 수행된 n-1(이때, n은 n≥2인 자연수)번째 회전 필터링 결과 값들을 이용하여 산출된 AMSE와 복원 대상 영상에 대해 수행된 n번째 회전 필터링 결과 값들을 이용하여 산출된 AMSE 사이의 절대치 오차를 산출하고, 산출된 절대치 오차에 기초하여 복원 대상 영상에 대한 회전 필터링의 추가 수행 여부를 판단할 수 있다. 구체적으로, 판단부(120)는 아래의 수학식 4와 같이 산출된 절대치 오차가 기 설정된 블러링 한계 값인 Δt보다 작은 경우, 복원 대상 영상에 대한 추가적인 회전 필터링 수행이 필요한 것으로 판단할 수 있다.Subsequently, the
[수학식 4][Equation 4]
한편, 판단부(120)에 의해 추가적인 회전 필터링 수행이 필요한 것으로 판단된 경우, 필터링부(110)는 상술한 바와 같이 윈도우 및 역 필터의 크기를 변경한 후 복원 대상 영상에 대한 추가적인 회전 필터링을 수행할 수 있다.On the other hand, if it is determined by the
반면, 판단부(110)에 의해 추가적인 회전 필터링 수행이 불필요한 것으로 판단된 경우, 필터링부(110)는 복원 대상 영상에 대해 마지막으로 수행된 회전 필터링에 의해 획득된 각 픽셀에 대한 회전 필터링 결과 값들의 평균 값을 복원 영상의 픽셀 값으로 결정할 수 있다.On the other hand, when it is determined that the additional rotation filtering is unnecessary by the
구체적으로, 필터링부(110)는 복원 대상 영상에 대해 n번째 회전 필터링이 수행되는 경우, 아래의 수학식 4를 이용하여 복원 대상 영상의 각 픽셀에 대한 회전 필터링 결과 값( )들의 평균 값( )을 산출할 수 있다. Specifically, when the n-th rotation filtering is performed on the restoration target image, the
[수학식 3][Equation 3]
또한, 필터링부(110)는 n번째 회전 필터링이 복원 대상 영상에 대해 마지막으로 수행된 회전 필터링인 경우, 을 복원 영상의 픽셀 값으로 결정할 수 있다.In addition, the
도 7은 본 발명의 일 실시예에 따른 영상 복원 방법의 순서도이다.7 is a flowchart of an image restoration method according to an embodiment of the present invention.
도 7에 도시된 방법은 예를 들어, 도 1에 도시된 영상 복원 장치(100)에 의해 수행될 수 있다.The method illustrated in FIG. 7 may be performed, for example, by the
도 7을 참조하면, 영상 복원 장치(100)는 우선, 블러링 잡음을 포함하는 복원 대상 영상 내에서 윈도우를 이동시키면서 윈도우 내에 포함된 픽셀들에 대해 역 필터를 이용한 회전 필터링을 수행한다(710).Referring to FIG. 7, the
이후, 영상 복원 장치(100)는 회전 필터링에 의해 필터링 결과에 기초하여, 복원 대상 영상에 대한 회전 필터링의 추가 수행 여부를 판단한다(720).Thereafter, the
이후, 영상 복원 장치(100)는 복원 대상 영상에 대한 회전 필터링의 추가 수행이 필요한 경우, 윈도우 및 역 필터의 크기를 변경한 후(730), 710 단계 및 720 단계를 재차 수행한다.Subsequently, when it is necessary to additionally perform rotation filtering on the restoration target image, the
도 8은 본 발명의 일 실시예에 따른 영상 복원 방법의 상세 절차를 나타낸 순서도이다.8 is a flowchart illustrating a detailed procedure of an image restoration method according to an embodiment of the present invention.
도 8에 도시된 방법은 예를 들어, 도 1에 도시된 영상 복원 장치(100)에 의해 수행될 수 있다.The method illustrated in FIG. 8 may be performed, for example, by the
도 8을 참조하면, 영상 복원 장치(100)는 우선, 복원 대상 영상에 대한 회전 필터링 수행 횟수(n)를 1로 설정한다(810).Referring to FIG. 8, the
이후, 영상 복원 장치(100)는 필터링 수행 횟수(n)에 기초하여 윈도우 및 역 필터의 크기를 결정한다(820).Thereafter, the
이때, 본 발명의 일 실시예에 따르면, 윈도우의 크기는 (2n+1)×(2n+1)으로 설정될 수 있다.At this time, according to an embodiment of the present invention, the size of the window may be set to (2n+1)×(2n+1).
또한, 본 발명의 일 실시예에 따르면, 역 필터의 크기는 (2n-1)×(2n+1) 으로 설정될 수 있으며, 이 경우, 역 필터의 필터 계수는 상술한 수학식 1에 따라 결정될 수 있다.Further, according to an embodiment of the present invention, the size of the inverse filter may be set as (2n-1)×(2n+1), in which case, the filter coefficient of the inverse filter may be determined according to
본 발명의 다른 실시예에 따르면, 역 필터의 크기는 1×(2n+1) 으로 설정될 수 있으며, 이 경우, 역 필터의 필터 계수는 상술한 수학식 2에 따라 결정될 수 있다. According to another embodiment of the present invention, the size of the inverse filter may be set to 1×(2n+1), and in this case, the filter coefficient of the inverse filter may be determined according to
이후, 영상 복원 장치(100)는 윈도우 및 역 필터를 이용하여 복원 대상 영상에 대한 회전 필터링을 수행한다(830).Thereafter, the
이후, 영상 복원 장치(100)는 복원 대상 영상에 포함된 각 픽셀에 대한 회전 필터링 결과 값들의 평균 값( )을 산출한다(840). Subsequently, the
이후, 영상 복원 장치(100)는 830 단계에서 수행된 회전 필터링이 복원 대상에 대해 수행된 두 번째 이상의 회전 필터링인 경우(850), 해당 회전 필터링 결과 값들을 이용하여 AMSE(en)를 산출한다(860). Thereafter, when the rotation filtering performed in
이때, 830 단계에서 수행된 회전 필터링이 복원 대상에 대해 수행된 첫 번째 회전 필터링인 경우(850), 영상 복원 장치(100)는 회전 필터링 수행 횟수(n)를 1만큼 증가시킨 후(880), 820 단계 내지 850 단계를 재차 수행한다.At this time, if the rotation filtering performed in
이후, 영상 복원 장치(100)는 복원 대상 영상에 대해 수행된 n번째 회전 필터링 결과 값들을 이용하여 산출된 AMSE(en)와 복원 대상 영상에 대해 수행된 n-1번째 회전 필터링 결과 값들을 이용하여 산출된 AMSE(en-1) 사이의 절대치 오차가 기 설정된 블러링 한계 값(Δt)보다 큰지 여부를 판단한다(870). Thereafter, the
이때, 절대치 오차가 블러링 한계 값 이하인 경우, 영상 복원 장치(100)는 회전 필터링 수행 횟수(n)를 1만큼 증가시킨 후(880), 820 단계 내지 870 단계를 재차 수행한다.In this case, when the absolute value error is equal to or less than the blurring limit value, the
반면, 절대치 오차가 블러링 한계 값보다 큰 경우, 영상 복원 장치(100)는 을 복원 영상의 필셀 값으로 결정한다(890).On the other hand, if the absolute value error is greater than the blurring limit value, the
한편, 도 7 및 도 8에 도시된 순서도에서는 상기 방법을 복수 개의 단계로 나누어 기재하였으나, 적어도 일부의 단계들은 순서를 바꾸어 수행되거나, 다른 단계와 결합되어 함께 수행되거나, 생략되거나, 세부 단계들로 나뉘어 수행되거나, 또는 도시되지 않은 하나 이상의 단계가 부가되어 수행될 수 있다.Meanwhile, in the flowcharts illustrated in FIGS. 7 and 8, the method is described as being divided into a plurality of steps, but at least some of the steps are performed by changing the order, combined with other steps, omitted together, or as detailed steps. It may be performed separately, or may be performed by adding one or more steps not shown.
도 9는 예시적인 실시예들에서 사용되기에 적합한 컴퓨팅 장치를 포함하는 컴퓨팅 환경을 예시하여 설명하기 위한 블록도이다. 도시된 실시예에서, 각 컴포넌트들은 이하에 기술된 것 이외에 상이한 기능 및 능력을 가질 수 있고, 이하에 기술되지 않은 것 이외에도 추가적인 컴포넌트를 포함할 수 있다.9 is a block diagram illustrating and illustrating a computing environment including a computing device suitable for use in example embodiments. In the illustrated embodiment, each component may have different functions and capabilities other than those described below, and may include additional components other than those described below.
도시된 컴퓨팅 환경(10)은 컴퓨팅 장치(12)를 포함한다. 일 실시예에서, 컴퓨팅 장치(12)는 도 1에 도시된 영상 복원 장치(100)에 포함되는 하나 이상의 컴포넌트일 수 있다.The illustrated
컴퓨팅 장치(12)는 적어도 하나의 프로세서(14), 컴퓨터 판독 가능 저장 매체(16) 및 통신 버스(18)를 포함한다. 프로세서(14)는 컴퓨팅 장치(12)로 하여금 앞서 언급된 예시적인 실시예에 따라 동작하도록 할 수 있다. 예컨대, 프로세서(14)는 컴퓨터 판독 가능 저장 매체(16)에 저장된 하나 이상의 프로그램들을 실행할 수 있다. 상기 하나 이상의 프로그램들은 하나 이상의 컴퓨터 실행 가능 명령어를 포함할 수 있으며, 상기 컴퓨터 실행 가능 명령어는 프로세서(14)에 의해 실행되는 경우 컴퓨팅 장치(12)로 하여금 예시적인 실시예에 따른 동작들을 수행하도록 구성될 수 있다.The
컴퓨터 판독 가능 저장 매체(16)는 컴퓨터 실행 가능 명령어 내지 프로그램 코드, 프로그램 데이터 및/또는 다른 적합한 형태의 정보를 저장하도록 구성된다. 컴퓨터 판독 가능 저장 매체(16)에 저장된 프로그램(20)은 프로세서(14)에 의해 실행 가능한 명령어의 집합을 포함한다. 일 실시예에서, 컴퓨터 판독 가능 저장 매체(16)는 메모리(랜덤 액세스 메모리와 같은 휘발성 메모리, 비휘발성 메모리, 또는 이들의 적절한 조합), 하나 이상의 자기 디스크 저장 디바이스들, 광학 디스크 저장 디바이스들, 플래시 메모리 디바이스들, 그 밖에 컴퓨팅 장치(12)에 의해 액세스되고 원하는 정보를 저장할 수 있는 다른 형태의 저장 매체, 또는 이들의 적합한 조합일 수 있다.Computer
통신 버스(18)는 프로세서(14), 컴퓨터 판독 가능 저장 매체(16)를 포함하여 컴퓨팅 장치(12)의 다른 다양한 컴포넌트들을 상호 연결한다.The
컴퓨팅 장치(12)는 또한 하나 이상의 입출력 장치(24)를 위한 인터페이스를 제공하는 하나 이상의 입출력 인터페이스(22) 및 하나 이상의 네트워크 통신 인터페이스(26)를 포함할 수 있다. 입출력 인터페이스(22) 및 네트워크 통신 인터페이스(26)는 통신 버스(18)에 연결된다. 입출력 장치(24)는 입출력 인터페이스(22)를 통해 컴퓨팅 장치(12)의 다른 컴포넌트들에 연결될 수 있다. 예시적인 입출력 장치(24)는 포인팅 장치(마우스 또는 트랙패드 등), 키보드, 터치 입력 장치(터치패드 또는 터치스크린 등), 음성 또는 소리 입력 장치, 다양한 종류의 센서 장치 및/또는 촬영 장치와 같은 입력 장치, 및/또는 디스플레이 장치, 프린터, 스피커 및/또는 네트워크 카드와 같은 출력 장치를 포함할 수 있다. 예시적인 입출력 장치(24)는 컴퓨팅 장치(12)를 구성하는 일 컴포넌트로서 컴퓨팅 장치(12)의 내부에 포함될 수도 있고, 컴퓨팅 장치(12)와는 구별되는 별개의 장치로 컴퓨팅 장치(12)와 연결될 수도 있다.
이상에서 대표적인 실시예를 통하여 본 발명에 대하여 상세하게 설명하였으나, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자는 전술한 실시예에 대하여 본 발명의 범주에서 벗어나지 않는 한도 내에서 다양한 변형이 가능함을 이해할 것이다. 그러므로 본 발명의 권리범위는 설명된 실시예에 국한되어 정해져서는 안 되며, 후술하는 특허청구범위뿐만 아니라 이 특허청구범위와 균등한 것들에 의해 정해져야 한다.The present invention has been described in detail through exemplary embodiments, but those skilled in the art to which the present invention pertains can make various modifications to the above-described embodiments without departing from the scope of the present invention. Will understand. Therefore, the scope of the present invention should not be limited to the described embodiments, but should be determined not only by the claims to be described later, but also by the claims and equivalents.
10: 컴퓨팅 환경
12: 컴퓨팅 장치
14: 프로세서
16: 컴퓨터 판독 가능 저장 매체
18: 통신 버스
20: 프로그램
22: 입출력 인터페이스
24: 입출력 장치
26: 네트워크 통신 인터페이스
100: 영상 복원 장치
110: 필터링부
120: 판단부10: computing environment
12: computing device
14: processor
16: computer readable storage media
18: Communication bus
20: Program
22: I/O interface
24: I/O device
26: network communication interface
100: video restoration device
110: filtering unit
120: judgment unit
Claims (22)
상기 회전 필터링에 의한 필터링 결과에 기초하여, 상기 복원 대상 영상에 대한 상기 회전 필터링의 추가 수행 여부를 판단하는 판단부를 포함하고,
상기 필터링부는, 상기 회전 필터링의 추가 수행이 필요한 경우, 상기 윈도우 및 상기 역 필터의 크기를 변경하여 상기 복원 대상 영상에 대한 추가적인 회전 필터링을 수행하고,
상기 판단부는, 상기 복원 대상 영상에 포함된 각 픽셀의 픽셀 값과 상기 각 픽셀에 대한 회전 필터링 결과 값들 사이의 AMSE(Average Mean Square Error)를 산출하고, 상기 AMSE에 기초하여 상기 회전 필터링의 추가 수행 여부를 판단하는 영상 복원 장치.
A filtering unit that performs rotation filtering using an inverse filter on pixels included in the window while moving a window in an image to be reconstructed including blurring noise; And
Based on the filtering result by the rotation filtering, and includes a determination unit for determining whether to perform the rotation filtering for the reconstructed image,
The filtering unit performs additional rotation filtering on the image to be reconstructed by changing sizes of the window and the inverse filter when additional rotation filtering is required.
The determining unit calculates an average mean square error (AMSE) between a pixel value of each pixel included in the reconstructed target image and rotation filtering result values for each pixel, and further performs the rotation filtering based on the AMSE Image restoration device for determining whether.
상기 필터링부는, 상기 회전 필터링의 수행 횟수에 기초하여 상기 윈도우 및 상기 역 필터의 크기를 결정하는 영상 복원 장치.
The method according to claim 1,
The filtering unit determines an image size of the window and the inverse filter based on the number of times the rotation filtering is performed.
상기 필터링부는, 상기 복원 대상 영상에 대해 수행되는 회전 필터링이 n(이때, n은 n≥1인 자연수)번째 회전 필터링인 경우, 상기 윈도우의 크기를 (2n+1)×(2n+1)으로 설정하는 영상 복원 장치.
The method according to claim 2,
When the rotation filtering performed on the image to be reconstructed is the n-th rotation filtering (where n is a natural number of n≥1), the filtering unit sets the size of the window to (2n+1)×(2n+1). Video restoration device to set.
상기 필터링부는, 상기 복원 대상 영상에 대해 수행되는 회전 필터링이 n번째 회전 필터링인 경우, 상기 역 필터의 크기를 (2n-1)×(2n+1)으로 설정하는 영상 복원 장치.
The method according to claim 3,
The filtering unit sets the size of the inverse filter to (2n-1)×(2n+1) when rotation filtering performed on the restoration target image is an n-th rotation filtering.
상기 필터링부는, 상기 복원 대상 영상에 대해 수행되는 회전 필터링이 n번째 회전 필터링인 경우, 아래의 수학식 1을 이용하여 상기 역 필터의 필터 계수(coefficient)를 설정하는 영상 복원 장치.
[수학식 1]
(이때, Ci,j는 상기 필터 계수)
The method according to claim 4,
The filtering unit, when the rotation filtering performed on the image to be restored is the n-th rotation filtering, an image restoration apparatus that sets a filter coefficient of the inverse filter using Equation 1 below.
[Equation 1]
(At this time, C i,j is the filter coefficient)
상기 필터링부는, 상기 복원 대상 영상에 대해 수행되는 회전 필터링이 n번째 회전 필터링인 경우, 상기 윈도우의 크기를 1×(2n+1)으로 설정하는 영상 복원 장치.
The method according to claim 3,
The filtering unit sets the size of the window to 1×(2n+1) when rotation filtering performed on the restoration target image is n-th rotation filtering.
상기 필터링부는, 상기 복원 대상 영상에 대해 수행되는 회전 필터링이 n번째 회전 필터링인 경우, 아래의 수학식 2를 이용하여 상기 역 필터의 필터 계수(coefficient)를 설정하는 영상 복원 장치.
[수학식 2]
(이때, Cj는 상기 필터 계수)
The method according to claim 6,
When the rotation filtering performed on the restoration target image is the n-th rotation filtering, the filtering unit sets the filter coefficient of the inverse filter by using Equation 2 below.
[Equation 2]
(At this time, C j is the filter coefficient)
상기 판단부는, 상기 복원 대상 영상에 대해 수행된 n-1(이때, n은 n≥2인 자연수)번째 회전 필터링에 의한 회전 필터링 결과 값들을 이용하여 산출된 AMSE와 상기 복원 대상 영상에 대해 수행된 n번째 회전 필터링에 의한 회전 필터링 결과 값들을 이용하여 산출된 AMSE 사이의 절대치 오차에 기초하여 상기 회전 필터링의 추가 수행 여부를 판단하는 영상 복원 장치.
The method according to claim 1,
The determination unit is performed on the AMSE calculated using the rotation filtering result values of the n-1 (in this case, n is a natural number of n≥2) rotation performed on the restoration target image and the restoration target image An image restoration apparatus for determining whether to perform the rotation filtering based on an absolute error between AMSEs calculated using rotation filtering result values of the n-th rotation filtering.
상기 AMSE는, 아래의 수학식 3을 이용하여 산출되는 영상 복원 장치.
[수학식 3]
(이때, n은 상기 회전 필터링의 수행 횟수, x는 상기 픽셀 값, 는 상기 회전 필터링 결과 값)
The method according to claim 1,
The AMSE is an image reconstruction apparatus calculated using Equation 3 below.
[Equation 3]
(In this case, n is the number of times the rotation filtering is performed, x is the pixel value, Is the rotation filtering result value)
상기 필터링부는, 상기 복원 대상 영상에 대해 n번째 회전 필터링이 수행되는 경우, 아래의 수학식 4를 이용하여 복원 대상 영상의 각 픽셀에 대한 회전 필터링 결과 값들의 평균 값을 산출하고, 상기 n번째 회전 필터링이 상기 복원 대상 영상에 대해 마지막으로 수행된 회전 필터링인 경우, 상기 평균 값을 복원 영상의 픽셀 값으로 결정하는 영상 복원 장치.
[수학식 4]
(이때, 은 상기 평균 값, 는 상기 회전 필터링 결과 값)
The method according to claim 1,
When the n-th rotation filtering is performed on the restoration target image, the filtering unit calculates an average value of rotation filtering result values for each pixel of the restoration target image using Equation 4 below, and the n-th rotation An image restoration apparatus that determines the average value as a pixel value of a restoration image when filtering is rotation filtering performed last on the restoration target image.
[Equation 4]
(At this time, Is the average value, Is the rotation filtering result value)
상기 회전 필터링에 의한 필터링 결과에 기초하여, 상기 복원 대상 영상에 대한 상기 회전 필터링의 추가 수행 여부를 판단하는 단계; 및
상기 회전 필터링의 추가 수행이 필요한 경우, 상기 윈도우 및 상기 역 필터의 크기를 변경하여 상기 복원 대상 영상에 대한 추가적인 회전 필터링을 수행하는 단계를 포함하고,
상기 판단하는 단계는, 상기 복원 대상 영상에 포함된 각 픽셀의 픽셀 값과 상기 각 픽셀에 대한 회전 필터링 결과 값들 사이의 AMSE(Average Mean Square Error)를 산출하고, 상기 AMSE에 기초하여 상기 회전 필터링의 추가 수행 여부를 판단하는 영상 복원 방법.
Performing rotation filtering using an inverse filter on pixels included in the window while moving a window in a restoration target image including blurring noise;
Determining whether the rotation filtering is additionally performed on the reconstructed target image based on a result of filtering by the rotation filtering; And
If it is necessary to perform the rotation filtering further, changing the size of the window and the inverse filter to perform additional rotation filtering on the reconstructed image,
In the determining step, an average mean square error (AMSE) between a pixel value of each pixel included in the reconstructed image and a rotation filtering result value for each pixel is calculated, and the rotation filtering is performed based on the AMSE. Image restoration method to determine whether to perform additional.
상기 윈도우 및 상기 역 필터의 크기는, 상기 회전 필터링의 수행 횟수에 기초하여 결정되는 영상 복원 방법.
The method according to claim 12,
The size of the window and the inverse filter is determined based on the number of times the rotation filtering is performed.
상기 회전 필터링을 수행하는 단계 및 추가적인 회전 필터링을 수행하는 단계는, 상기 복원 대상 영상에 대해 수행되는 회전 필터링이 n(이때, n은 n≥1인 자연수)번째 회전 필터링인 경우, 상기 윈도우의 크기를 (2n+1)×(2n+1)으로 설정하는 영상 복원 방법.
The method according to claim 13,
The step of performing the rotation filtering and the step of performing the additional rotation filtering may include the size of the window when the rotation filtering performed on the reconstructed target image is an n (where n is a natural number with n≥1) th rotation filtering. How to set (2n+1) × (2n+1).
상기 회전 필터링을 수행하는 단계 및 추가적인 회전 필터링을 수행하는 단계는, 상기 복원 대상 영상에 대해 수행되는 회전 필터링이 n번째 회전 필터링인 경우, 상기 역 필터의 크기를 (2n-1)×(2n+1)으로 설정하는 영상 복원 방법.
The method according to claim 14,
In the step of performing the rotation filtering and the step of performing the additional rotation filtering, when the rotation filtering performed on the reconstructed target image is the n-th rotation filtering, the size of the inverse filter is (2n-1)×(2n+) How to restore video set by 1).
상기 회전 필터링을 수행하는 단계 및 추가적인 회전 필터링을 수행하는 단계는, 상기 복원 대상 영상에 대해 수행되는 회전 필터링이 n번째 회전 필터링인 경우, 아래의 수학식 1을 이용하여 상기 역 필터의 필터 계수(coefficient)를 설정하는 영상 복원 방법.
[수학식 1]
(이때, Ci,j는 상기 필터 계수)
The method according to claim 15,
In the step of performing the rotation filtering and the step of performing the additional rotation filtering, when the rotation filtering performed on the reconstructed target image is the n-th rotation filtering, the filter coefficient of the inverse filter using Equation 1 below ( coefficient) setting method.
[Equation 1]
(At this time, C i,j is the filter coefficient)
상기 회전 필터링을 수행하는 단계 및 추가적인 회전 필터링을 수행하는 단계는, 상기 복원 대상 영상에 대해 수행되는 회전 필터링이 n번째 회전 필터링인 경우, 상기 윈도우의 크기를 1×(2n+1)으로 설정하는 영상 복원 방법.
The method according to claim 14,
In the step of performing the rotation filtering and the step of performing the additional rotation filtering, when the rotation filtering performed on the restoration target image is the n-th rotation filtering, the size of the window is set to 1×(2n+1). Video restoration method.
상기 회전 필터링을 수행하는 단계 및 추가적인 회전 필터링을 수행하는 단계는, 상기 복원 대상 영상에 대해 수행되는 회전 필터링이 n번째 회전 필터링인 경우, 아래의 수학식 2를 이용하여 상기 역 필터의 필터 계수(coefficient)를 설정하는 영상 복원 방법.
[수학식 2]
(이때, Cj는 상기 필터 계수)
The method according to claim 17,
In the step of performing the rotation filtering and the step of performing the additional rotation filtering, when the rotation filtering performed on the reconstructed target image is the n-th rotation filtering, filter coefficients of the inverse filter using Equation 2 below ( coefficient) setting method.
[Equation 2]
(At this time, C j is the filter coefficient)
상기 판단하는 단계는, 상기 복원 대상 영상에 대해 수행된 n-1(이때, n은 n≥2인 자연수)번째 회전 필터링에 의한 회전 필터링 결과 값들을 이용하여 산출된 AMSE와 상기 복원 대상 영상에 대해 수행된 n번째 회전 필터링에 의한 회전 필터링 결과 값들을 이용하여 산출된 AMSE 사이의 절대치 오차에 기초하여 상기 회전 필터링의 추가 수행 여부를 판단하는 영상 복원 방법.
The method according to claim 12,
In the determining, the AMSE calculated using the rotation filtering result values of the n-1 (where n is a natural number of n≥2) rotation performed on the restoration target image and the restoration target image An image restoration method for determining whether to perform the additional rotation filtering based on an absolute error between AMSEs calculated using the rotation filtering result values obtained by the n-th rotation filtering.
상기 AMSE는, 아래의 수학식 3을 이용하여 산출되는 영상 복원 방법.
[수학식 3]
(이때, n은 상기 회전 필터링의 수행 횟수, x는 상기 픽셀 값, 는 상기 회전 필터링 결과 값)
The method according to claim 12,
The AMSE is an image reconstruction method calculated using Equation 3 below.
[Equation 3]
(In this case, n is the number of times the rotation filtering is performed, x is the pixel value, Is the rotation filtering result value)
상기 복원 대상 영상에 대해 n번째 회전 필터링이 수행되는 경우, 아래의 수학식 4를 이용하여 복원 대상 영상의 각 픽셀에 대한 회전 필터링 결과 값들의 평균 값을 산출하는 단계; 및
상기 n번째 회전 필터링이 상기 복원 대상 영상에 대해 마지막으로 수행된 회전 필터링인 경우, 상기 평균 값을 복원 영상의 픽셀 값으로 결정하는 단계를 더 포함하는 영상 복원 방법.
[수학식 4]
(이때, 은 상기 평균 값, 는 상기 회전 필터링 결과 값)
The method according to claim 12,
When n-th rotation filtering is performed on the restoration target image, calculating an average value of rotation filtering result values for each pixel of the restoration target image using Equation 4 below; And
And if the n-th rotation filtering is rotation filtering performed last on the reconstructed target image, determining the average value as a pixel value of the reconstructed image.
[Equation 4]
(At this time, Is the average value, Is the rotation filtering result value)
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020180152889A KR102126916B1 (en) | 2018-11-30 | 2018-11-30 | Apparatus and method for reconstructing blurred image |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020180152889A KR102126916B1 (en) | 2018-11-30 | 2018-11-30 | Apparatus and method for reconstructing blurred image |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20200066485A KR20200066485A (en) | 2020-06-10 |
KR102126916B1 true KR102126916B1 (en) | 2020-06-26 |
Family
ID=71087252
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020180152889A KR102126916B1 (en) | 2018-11-30 | 2018-11-30 | Apparatus and method for reconstructing blurred image |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR102126916B1 (en) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013508811A (en) | 2009-10-16 | 2013-03-07 | イーストマン コダック カンパニー | Blur image correction using spatial image prior probability |
JP2015114740A (en) | 2013-12-09 | 2015-06-22 | キヤノン株式会社 | Image processing method, image processing apparatus, imaging apparatus, and image processing program |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2005055587A1 (en) * | 2003-12-01 | 2005-06-16 | Koninklijke Philips Electronics N.V. | Motion-compensated inverse filtering with band-pass filters for motion blur reduction |
KR100990791B1 (en) | 2008-12-31 | 2010-10-29 | 포항공과대학교 산학협력단 | Method For Removing Blur of Image And Recorded Medium For Perfoming Method of Removing Blur |
-
2018
- 2018-11-30 KR KR1020180152889A patent/KR102126916B1/en active IP Right Grant
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013508811A (en) | 2009-10-16 | 2013-03-07 | イーストマン コダック カンパニー | Blur image correction using spatial image prior probability |
JP2015114740A (en) | 2013-12-09 | 2015-06-22 | キヤノン株式会社 | Image processing method, image processing apparatus, imaging apparatus, and image processing program |
Also Published As
Publication number | Publication date |
---|---|
KR20200066485A (en) | 2020-06-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20210067848A1 (en) | End to End Network Model for High Resolution Image Segmentation | |
JP6507846B2 (en) | Image noise removing method and image noise removing apparatus | |
Belekos et al. | Maximum a posteriori video super-resolution using a new multichannel image prior | |
WO2018216207A1 (en) | Image processing device, image processing method, and image processing program | |
US20130058587A1 (en) | Motion Deblurring for Text Images | |
EP2529353A1 (en) | Method and system for generating an output image of increased pixel resolution from an input image | |
JP7362297B2 (en) | Image processing device, image processing method, and program | |
JP2019504433A (en) | Image generation using neural networks | |
JP2016058081A (en) | Method and device for generating sharp image on the basis of blurry image | |
KR101671391B1 (en) | Method for deblurring video using modeling blurred video with layers, recording medium and device for performing the method | |
KR101839617B1 (en) | Method and apparatus for removing non-uniform motion blur using multiframe | |
KR102034967B1 (en) | Motion deblurring method and apparatus | |
JP6390173B2 (en) | Information processing apparatus, information processing system, image processing method, and program | |
US11238560B2 (en) | Image down-scaling with pixel sets selected via blue noise sampling | |
KR101303647B1 (en) | System and method for enhancement image resolution using image restoration | |
Lanza et al. | Space-variant TV regularization for image restoration | |
KR102126916B1 (en) | Apparatus and method for reconstructing blurred image | |
US10181182B2 (en) | Image processing apparatus and image processing method for estimating point spread function | |
Cao et al. | Robust deblurring based on prediction of informative structure | |
JP5846048B2 (en) | Image processing apparatus and imaging apparatus | |
Jiang | A multi-parameter regularization model for deblurring images corrupted by impulsive noise | |
CN112581362A (en) | Image processing method and device for adjusting image details | |
JP5934019B2 (en) | Gradation restoration device and program thereof | |
KR102590926B1 (en) | Apparatus and method for image restoration of distorted image | |
KR102244457B1 (en) | Upsampling method and system for semantic segmentation |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
E701 | Decision to grant or registration of patent right |