KR101740647B1 - Apparatus for Processing High Dynamic Range Imaging - Google Patents
Apparatus for Processing High Dynamic Range Imaging Download PDFInfo
- Publication number
- KR101740647B1 KR101740647B1 KR1020160146815A KR20160146815A KR101740647B1 KR 101740647 B1 KR101740647 B1 KR 101740647B1 KR 1020160146815 A KR1020160146815 A KR 1020160146815A KR 20160146815 A KR20160146815 A KR 20160146815A KR 101740647 B1 KR101740647 B1 KR 101740647B1
- Authority
- KR
- South Korea
- Prior art keywords
- matrix
- quot
- image
- rank
- equation
- Prior art date
Links
- 238000012545 processing Methods 0.000 title claims abstract description 12
- 238000003384 imaging method Methods 0.000 title 1
- 239000011159 matrix material Substances 0.000 claims abstract description 261
- 238000000034 method Methods 0.000 claims abstract description 46
- 230000003190 augmentative effect Effects 0.000 claims abstract description 18
- 230000015572 biosynthetic process Effects 0.000 claims abstract description 5
- 238000003786 synthesis reaction Methods 0.000 claims abstract description 5
- 238000005457 optimization Methods 0.000 claims description 27
- 238000004364 calculation method Methods 0.000 claims description 8
- 238000005070 sampling Methods 0.000 claims description 6
- 238000000926 separation method Methods 0.000 claims description 4
- 230000003068 static effect Effects 0.000 abstract description 5
- 238000010586 diagram Methods 0.000 description 6
- 238000007796 conventional method Methods 0.000 description 3
- 230000002194 synthesizing effect Effects 0.000 description 3
- 238000005259 measurement Methods 0.000 description 2
- 238000001308 synthesis method Methods 0.000 description 2
- 239000013598 vector Substances 0.000 description 2
- 230000003044 adaptive effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000000513 principal component analysis Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000005316 response function Methods 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Images
Classifications
-
- H04N5/2355—
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/741—Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
-
- G06T5/007—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/90—Dynamic range modification of images or parts thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20172—Image enhancement details
- G06T2207/20208—High dynamic range [HDR] image processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
Abstract
HDR 영상 처리 장치는 저 랭크 행렬의 Truncated Nuclear Norm 최소화 기법을 이용하여 HDR 영상 합성 기법을 제공하고, 배경이 정적이라는 가정 하에 배경과 움직이는 객체를 각각 저 랭크 행렬과 희소 행렬로 표현하고, 배경 추정을 저 랭크 행렬의 완성 문제로 표현하며, ALM(Augmented Lagrange Multiplier) 방법을 이용하여 효율적으로 최적 해를 얻음으로써 현저하게 적은 계산 복잡도를 가지며 더 높은 품질의 결과 영상을 제공한다.The HDR image processing apparatus provides the HDR image synthesis technique using the truncated Nuclear Norm minimization method of the low rank matrix and expresses the background and the moving object as the low rank matrix and the sparse matrix on the assumption that the background is static, It is expressed as the completion problem of the low rank matrix. By using the Augmented Lagrange Multiplier (ALM) method, the optimal solution is obtained efficiently, and the resultant image has a remarkably low computational complexity and a higher quality.
Description
본 발명은 HDR(High Dynamic Range) 영상 처리 장치에 관한 것으로서, 특히 저 랭크 행렬의 Truncated Nuclear Norm 최소화 기법을 이용하여 HDR 영상 합성 기법을 제공하고, 배경이 정적이라는 가정 하에 배경과 움직이는 객체를 각각 저 랭크 행렬과 희소 행렬로 표현하고, 배경 추정을 저 랭크 행렬의 완성 문제로 표현하며, ALM(Augmented Lagrange Multiplier) 방법을 이용하여 효율적으로 최적 해를 얻음으로써 현저하게 적은 계산 복잡도를 가지며 더 높은 품질의 결과 영상을 제공하는 HDR 영상 처리 장치에 관한 것이다.The present invention relates to an HDR (High Dynamic Range) image processing apparatus, and more particularly, to an HDR image synthesis method using a truncated nuclear norm minimization method of a low rank matrix, Rank matrices and sparse matrices, the background estimation is expressed as a problem of the completion of the low rank matrix, and the optimal solution is obtained efficiently using the Augmented Lagrange Multiplier (ALM) method, And an HDR image processing apparatus for providing a resultant image.
최근 디지털 영상 기술의 발전으로 스마트폰을 포함한 다양한 장치를 이용하여 고해상도의 영상을 취득할 수 있다.With the recent development of digital image technology, it is possible to acquire high resolution image by using various devices including smart phone.
이에 반해 일반적인 디지털 카메라는 실제 장면보다 훨씬 낮은 동적 영역을 갖는 영상만을 취득할 수 있다. 따라서, 취득된 영상은 제한된 동적 영역으로 인하여 장면의 모든 정보를 포함할 수 없는 한계가 있다. 이러한 단점을 극복하고 장면의 모든 동적 영역의 정보를 취득하기 위한 많은 연구가 진행되고 있다.On the other hand, a typical digital camera can acquire only an image having a dynamic range much lower than that of a real scene. Therefore, there is a limitation that the acquired image can not include all the information of the scene due to the limited dynamic range. Many studies have been conducted to overcome these drawbacks and obtain information of all dynamic regions of the scene.
이와 같은 높은 동적 영역을 갖는 영상을 HDR(High Dynamic Range) 영상이라고 한다. HDR 영상을 취득하는 가장 기초적인 방법은 서로 다른 노출 시간으로 촬영된 LDR(Low Dynamic Range) 영상을 합성하는 것이다.An image having such a high dynamic range is called an HDR (High Dynamic Range) image. The most basic method to acquire HDR images is to synthesize LDR (Low Dynamic Range) images photographed at different exposure times.
하지만 촬영을 하는 동안 일반적으로 객체 또는 카메라의 움직임이 있기 때문에 이러한 간단한 방법으로 HDR 영상을 합성할 경우 Ghosting Artifact가 발생한다. 따라서, Ghosting Artifact가 없는 고품질의 HDR 영상을 취득하는 기법은 매우 중요한 연구 주제이다.However, Ghosting Artifact occurs when HDR images are synthesized with this simple method because there is generally motion of object or camera during shooting. Therefore, the technique of obtaining high quality HDR image without Ghosting artifact is a very important research topic.
움직이는 장면에서 고품질의 HDR 영상을 취득하는 방법은 입력 LDR 영상을 정합한 후 결과 영상을 이용하여 HDR 영상을 합성할 수 있다. 하지만 이러한 기법은 높은 계산 복잡도를 보이는 단점이 있었다.A method of acquiring high quality HDR image in a moving scene can synthesize an HDR image using the resultant image after matching the input LDR image. However, this technique has a disadvantage of high computational complexity.
최근의 HDR 영상을 취득하는 기법은 입력 영상에서 배경 부분이 정적이고 움직이는 물체가 희소하다는 가정 하에 로우 랭크(Low Rank) 행렬 완성 문제를 적용한 HDR 합성 기법을 제안하였다.Recently, the technique of acquiring the HDR image proposed the HDR synthesis technique applying the low rank matrix completion problem on the assumption that the background part is static and the moving object is rare in the input image.
그러나 이러한 기법은 행렬의 Rank를 정확하게 근사화하지 못한다는 단점이 있었다. However, this technique has a disadvantage in that it can not approximate the rank of a matrix accurately.
이와 같은 문제점을 해결하기 위하여, 본 발명은 저 랭크 행렬의 Truncated Nuclear Norm 최소화 기법을 이용하여 HDR 영상 합성 기법을 제공하고, 배경이 정적이라는 가정 하에 배경과 움직이는 객체를 각각 저 랭크 행렬과 희소 행렬로 표현하고, 배경 추정을 저 랭크 행렬의 완성 문제로 표현하며, ALM(Augmented Lagrange Multiplier) 방법을 이용하여 효율적으로 최적 해를 얻음으로써 현저하게 적은 계산 복잡도를 가지며 더 높은 품질의 결과 영상을 제공하는 HDR 영상 처리 장치를 제공하는데 그 목적이 있다.In order to solve this problem, the present invention provides an HDR image synthesis method using a truncated nuclear norm minimization method of a low rank matrix, and provides a low-rank matrix and a sparse matrix as background and moving objects, respectively, , HDR (Higher Order Reasoning), which provides a higher quality result image with remarkably lower computational complexity by efficiently obtaining the optimal solution using the Augmented Lagrange Multiplier (ALM) method, expresses the background estimation as a completion problem of the low rank matrix, And an object thereof is to provide an image processing apparatus.
상기 목적을 달성하기 위한 본 발명의 특징에 따른 HDR 영상 처리 장치는,According to an aspect of the present invention, there is provided an apparatus for processing an HDR image,
배경과 객체를 분리하고자 하는 대상 영상을 입력받아 상기 대상 영상의 화소들의 영상 신호값에 따른 행렬인 대상 영상 행렬을 생성하는 대상 영상 행렬 생성부; 및An object image matrix generation unit that receives a target image to be separated from a background and an object and generates a target image matrix that is a matrix according to image signal values of pixels of the target image; And
상기 대상 영상 행렬을 일정한 기준보다 작은 랭크(Rank) 값을 가지는 저 랭크 행렬(Low Rank Matrix)과 상기 대상 영상 행렬에서 상기 저 랭크 행렬 성분을 제외한 나머지 성분인 희소 행렬(Sparse Matrix)의 합으로 설정하고, 상기 저 랭크 행렬에 대한 Truncated Nuclear Norm 연산 값과 상기 희소 행렬에 대한 L1 놈(Norm) 연산 값에 상기 저 랭크 행렬과 상기 희소 행렬 사이의 상대적 중요성을 조절하는 인자를 적용한 가중합을 비용 함수로 설정하며, 상기 비용 함수를 이용하여 상기 저 랭크 행렬 및 상기 희소 행렬을 산출하는 영상 분리부를 포함하는 것을 특징으로 한다.The target image matrix is set as a sum of a low rank matrix having a rank value smaller than a certain standard and a sparse matrix being a remaining element excluding the low rank matrix element in the target image matrix A weighted sum obtained by applying a factor adjusting the relative importance between the low rank matrix and the sparse matrix to a Truncated Nuclear Norm calculation value for the low rank matrix and an L 1 norm calculation value for the sparse matrix, And an image separation unit for calculating the low rank matrix and the sparse matrix using the cost function.
본 발명의 특징에 따른 HDR 영상 처리 장치는,According to an aspect of the present invention,
배경과 객체를 분리하고자 하는 대상 영상을 입력받아 상기 대상 영상의 화소들의 영상 신호값에 따른 행렬인 대상 영상 행렬을 생성하는 대상 영상 행렬 생성부; 및An object image matrix generation unit that receives a target image to be separated from a background and an object and generates a target image matrix that is a matrix according to image signal values of pixels of the target image; And
상기 대상 영상 행렬을 일정한 기준보다 작은 랭크(Rank) 값을 가지는 저 랭크 행렬(Low Rank Matrix)을 설정하고, 상기 저 랭크 행렬과 여유 변수 행렬(Slack Variable)의 합으로 제한조건을 설정하며, 상기 저 랭크 행렬과 상기 여유 변수 행렬에 대한 라그랑지 멀티플라이어가 적용된 라그랑지안 비용 함수를 이용하여 제1 비용 함수의 해를 구하는 ALM(Augmented Lagrange Multiplier) 방법을 사용하여 상수 제1 비용 함수를 최소화 또는 일정한 범위 이내로 수렴하게 하여 상기 저 랭크 행렬, 상기 여유 변수 행렬을 산출하는 TNNM(Truncated Nuclear Norm Minimization)-ALM(Augmented Lagrange Multiplier) 알고리즘을 생성하는 최적화 알고리즘부를 포함하는 것을 특징으로 한다.Sets a low rank matrix having a rank value smaller than a certain reference as the target image matrix and sets a constraint condition as a sum of the low rank matrix and a slack variable matrix, A constant first cost function can be minimized or a constant range can be minimized by using an augmented Lagrange Multiplier (ALM) method for obtaining a solution of a first cost function using a low rank matrix and a Lagrangian cost function applied with a Lagrangian multiplier for the extra variable matrix And an optimization algorithm unit for generating a TNNM (Augmented Lagrange Multiplier) algorithm to calculate the low rank matrix and the allowable variable matrix.
전술한 구성에 의하여, 본 발명은 TNNM(Truncated Nuclear Norm Minimization)-ALM(Augmented Lagrange Multiplier) 알고리즘을 이용하여 HDR 영상을 합성하면 계산 복잡도가 기존 방법에 비해 현저하기 낮기 때문에 모바일 디바이스 등 낮은 계산 관련 전력을 구비한 장치에서도 높은 품질의 HDR 영상을 취득할 수 있는 효과가 있다.According to the above-described configuration, when HDR images are synthesized using a TNMM (Augmented Lagrange Multiplier) algorithm, the computational complexity is remarkably lower than that of conventional methods, It is possible to acquire a high-quality HDR image even in an apparatus equipped with the above-described apparatus.
도 1은 본 발명의 실시예에 따른 영상 처리 장치의 구성을 간략하게 나타낸 블록도이다.
도 2는 본 발명의 실시예에 따른 TNNM-ALM 알고리즘을 생성하는 일련의 절차를 나타낸 도면이다.
도 3은 본 발명의 실시예에 따른 TNNM-ALM 알고리즘을 이용한 HDR 영상 합성 방법을 나타낸 도면이다.1 is a block diagram briefly showing a configuration of an image processing apparatus according to an embodiment of the present invention.
FIG. 2 is a diagram illustrating a series of procedures for generating a TNNM-ALM algorithm according to an embodiment of the present invention. Referring to FIG.
3 is a diagram illustrating a method of synthesizing an HDR image using a TNNM-ALM algorithm according to an embodiment of the present invention.
명세서 전체에서, 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미한다.Throughout the specification, when an element is referred to as "comprising ", it means that it can include other elements as well, without excluding other elements unless specifically stated otherwise.
도 1은 본 발명의 실시예에 따른 영상 처리 장치의 구성을 간략하게 나타낸 블록도이고, 도 2는 본 발명의 실시예에 따른 TNNM-ALM 알고리즘을 생성하는 일련의 절차를 나타낸 도면이고, 도 3은 본 발명의 실시예에 따른 TNNM-ALM 알고리즘을 이용한 HDR 영상 합성 방법을 나타낸 도면이다.FIG. 1 is a block diagram briefly showing a configuration of an image processing apparatus according to an embodiment of the present invention. FIG. 2 is a diagram illustrating a series of procedures for generating a TNNM-ALM algorithm according to an embodiment of the present invention. Is a diagram illustrating a method of synthesizing an HDR image using a TNNM-ALM algorithm according to an embodiment of the present invention.
본 발명의 실시예에 따른 영상 처리 장치(100)는 최적화 알고리즘부(102), 대상 영상 행렬 생성부(110), 영상 분리부(120) 및 영상 합성부(130)를 포함한다.The
최적화 알고리즘부(102)는 행렬의 Truncated Nuclear Norm 최소화를 이용하여 기존 기법에 비해서 더 정확한 행렬 Rank를 근사화할 수 있도록 문제를 공식화한 후, ALM(Augmented Lagrange Multiplier) 기법을 이용하여 효율적으로 최적의 해를 구하는 기법을 제안한다.The
여기서, 는 행렬 X의 nuclear norm이고, 은 행렬 X의 k번째 특이값(singular value)이며, 는 행렬 X를 에서 샘플링하는 연산자이다.here, Is the nuclear norm of matrix X, Is the kth singular value of the matrix X, Lt; RTI ID = 0.0 > . ≪ / RTI >
행렬 X에 대한 행렬 완성 문제를 효율적으로 풀기 위하여 rank(X)가 nonconvex하고 분리되어 있기 때문에 전술한 [수학식 1]과 같이 근사한 후에 풀게 된다.In order to efficiently solve the matrix completion problem for the matrix X, since the rank (X) is nonconvex and separated, it is solved after approximation as in the above-mentioned Equation (1).
그러나 [수학식 1]은 nuclear norm이 행렬의 랭크를 정확하게 근사화하지 못하는 단점이 있어 아래의 [수학식 2]와 같이 truncated nuclear norm의 최소화로 변환한다.However, Equation (1) has a disadvantage in that the nuclear norm can not approximate the rank of the matrix precisely, and is converted into minimization of the truncated nuclear norm as shown in Equation (2) below.
여기서, 는 행렬 X의 truncated nuclear norm을 나타낸다.here, Represents the truncated nuclear norm of the matrix X.
전술한 [수학식 2]는 행렬의 랭크를 정확히 근사하는 장점이 있으나 반복(iteration)을 이용하여 풀기 때문에 효율적이지 못한 단점이 있다.The above-described expression (2) has an advantage of exactly approximating the rank of the matrix but it is not efficient because it is solved using iteration.
최적화 알고리즘부(102)는 행렬 X와 행렬 S를 초기화한다(S100).The
최적화 알고리즘부(102)는 행렬 X의 truncated nuclear norm 최소화 문제를 효율적으로 풀기 위해서 전술한 [수학식 2]에 여유 변수(slack variable)인 행렬 S를 추가하고 [수학식 2]를 변형하여 다음의 [수학식 3]과 같이 변환한다.In order to solve the problem of minimizing the truncated nuclear norm of the matrix X, the
이러한 [수학식 3]은 데이터 취득 과정에서 발생하는 잡음을 고려한다. 즉, 잡음 행렬 N을 이용한 데이터 취득 과정은 로 표현된다.Equation (3) takes into account the noise generated in the data acquisition process. That is, the data acquisition process using the noise matrix N Lt; / RTI >
여기서, 는 행렬의 프로베니어스 놈(Frobenius norm)이고, δ는 데이터 취득 과정에서 발생하는 잡음의 세기이며, 행렬 X는 구하고자 하는 저 랭크 행렬을 나타낸 것이다. 프로베니어스 놈은 모든 행렬 원소의 절대값의 제곱의 합을 구하는 연산이다.here, Is the Frobenius norm of the matrix, [delta] is the intensity of the noise occurring in the data acquisition process, and matrix X is the low rank matrix to be sought. The Probenisch norm is an operation that calculates the sum of squares of the absolute values of all matrix elements.
전술한 수학식 2에서 행렬 X에 샘플링 연산자를 적용해야 하기 때문에 직접 풀기가 매우 어렵다. 따라서, 문제를 쉽게 풀기 위하여 여유 변수 행렬 S를 추가하면 수학식 3을 얻을 수 있다.Since it is necessary to apply the sampling operator to the matrix X in Equation (2), it is very difficult to solve the problem directly. Therefore, if the extra variable matrix S is added to easily solve the problem, Equation 3 can be obtained.
수학식 3에는 데이터 취득 과정에서 발생하는 잡음을 고려하는 항이 있는데 여기서, 잡음을 무시하면(즉,=0), 새로운 미지수 행렬 S를 추가하는 대신에 기존 미지수 X에 적용하는 샘플링 연산자를 제거하는 효과가 있다.In Equation (3), there is a term that considers the noise generated in the data acquisition process. If noise is ignored (i.e., = 0), there is an effect of removing the sampling operator which applies to the unknown unknown X instead of adding the new unknown matrix S.
다시 말해, 수학식 2와 수힉식 3은 동일한 문제인데 여유 변수 행렬을 추가하여 문제를 쉽게 풀 수 있는 형태로 변경하는 것이다.In other words, equations (2) and (3) are the same problem, but the problem is easily solved by adding an extra variable matrix.
[수학식 3]은 기존 행렬 X에 대한 문제가 행렬 X와 행렬 S에 대한 문제로 변환된 것이다. 새로운 변수인 행렬 S를 추가하고 행렬 X에서 프로젝션 연산자(Projection Operator) 를 분리하여 각 행렬 변수 X 및 S에 대한 closed form solution을 구할 수 있다.[Mathematical Expression 3] is a problem in which the problem with the existing matrix X is transformed into a problem with the matrix X and the matrix S. We add a new variable, matrix S, and use the projection operator in matrix X, To obtain a closed form solution for each matrix variable X and S.
최적화 알고리즘부(102)는 전술한 [수학식 3]에 대한 라그랑지안 비용 함수(Augmented Lagrangian Function)로 정의하며 다음의 [수학식 4]와 같이 표현된다.The
여기서, μ는 불이익변수(Penalty Parameter)이고, Λ는 라그랑지 멀티플라이어 행렬, <A, B> = tr(ABT)는 두 행렬의 내적연산(matrix inner product), X는 저 랭크 행렬(Low Rank Matrix), S는 여유 변수(slack variable)인 행렬을 나타낸다.Here, μ is a disadvantage variable (Penalty Parameter) and, Λ is a Lagrangian multiplier matrix, <A, B> = tr (AB T) is the inner product calculation of the two matrices (matrix inner product), X is a low-rank matrix (Low Rank Matrix), and S is a slack variable matrix.
여유 변수는 선형 계획법에서의 단체 해법시 부동식으로 변환하기 위해 사용되는 변수로서 희박한 에러를 가진 행렬 보완 문제를 해결하는 기능을 한다.The allowance variable is a variable used to convert to a floating type in the grouping solution in the linear programming, and functions to solve the problem of matrix complementation with sparse errors.
여유 변수는 최적화 변수의 수를 증가시키고 최적화 중에 각 반복에서 행렬 X의 closed form의 해답을 얻는 것을 가능하게 한다.The allowance variable makes it possible to increase the number of optimization variables and obtain the closed form solution of matrix X at each iteration during optimization.
라그랑지 멀티플라이어 행렬은 제약 조건이 비용 함수 즉 목적 함수에 포함되기 위해 이용되는 변수로서 전체 비용 함수에서 제약 조건이 가지는 가중치를 결정하는 역할을 수행한다.The Lagrangian multiplier matrix is a variable used for constraints to be included in the cost function, that is, the objective function, and serves to determine the weight of the constraint in the overall cost function.
최적화 알고리즘부(102)는 [수학식 4]의 라그랑지 멀티플라이어 행렬(Λ)과 불이익 변수 μ를 예측하고, 그 예측된 Λ에 대해서 [수학식 4]의 비용 함수를 최소화함으로써 해를 구하는 방법인 ALM(Augmented Lagrange Multiplier) 알고리즘을 이용하여 행렬 X와 행렬 S를 산출한다(S102, S104).The
최적화 알고리즘부(102)는 ALM 방법을 수렴할 때까지 반복하여 최적화된 해 및 라그랑지 멀티플라이어 행렬을 예측한다.The
k번째 반복에서 다음의 [수학식 5]의 최적화 문제를 풀어서 전술한 행렬 X와 행렬 S를 구한다.In the k-th iteration, the optimization problem of the following equation (5) is solved to obtain the matrix X and the matrix S described above.
여기서, k는 몇번째 반복에 해당하는 Index를 나타낸다.Here, k represents an Index corresponding to a repetition number of times.
[수학식 5]는 행렬 X와 행렬 S에 대해서 동시에 문제를 풀 수 없기 때문에 아래의 [수학식 6]과 [수학식 9]와 같이 행렬 X와 행렬 S를 순차적으로 업데이트한다.[Mathematical Expression 5] can not solve the problem simultaneously for the matrix X and the matrix S. Therefore, the matrix X and the matrix S are sequentially updated as shown in Equation 6 and Equation 9 below.
전술한 [수학식 6]과 [수학식 9]는 closed form solution에 의해 효율적으로 계산되므로 전술한 [수학식 5]에 비해서 계산 복잡성이 줄어들 수 있다.Since the above equations (6) and (9) are efficiently calculated by the closed form solution, the computational complexity can be reduced as compared to Equation (5).
전술한 [수학식 5]에서 행렬 X를 최적화하여 다시 작성하면 다음의 [수학식 6]과 같이 표현된다.In the above-mentioned equation (5), when the matrix X is optimized and rewritten, it is represented as the following equation (6).
여기서, Sk와 Λk는 주어진 추정치를 나타내며, [수학식 6]의 closed form solution는 PSVT(Partial Singular Value Thresholding) 연산자에 의해 다음의 [수학식 8]과 같이 얻을 수 있다.Here, S k and Λ k represent given estimates, and the closed form solution of Equation (6) can be obtained by the following Equation (8) by the PSVT (Partial Singular Value Thresholding) operator.
PSVT 연산자는 다음의 [수학식 7]과 같이 정의된다.The PSVT operator is defined as: " (7) "
여기서, T는 전치행렬을 계산하는 연산자이며, 는 원소별 소프트 임계치 연산자(soft thresholding operator)인 를 의미한다.Here, T is an operator for calculating the transpose matrix, Is an elementary soft thresholding operator .
PSVT 연산자는 가중된 nuclear norm으로 표현된 목적 함수를 푸는 특별한 케이스가 있으며, 일반적인 가중된 nuclear norm의 최적화 문제에 사용되어 하위 문제를 푸는데 이용된다.The PSVT operator has a special case for solving the objective function expressed by the weighted nuclear norm and is used to solve the subproblem used in the optimization problem of the general weighted nuclear norm.
여기서, 는 [수학식 7]의 PSVT 연산자를 나타낸다.here, Represents the PSVT operator of Equation (7).
전술한 [수학식 5]에서 행렬 S를 최적화 문제로 다시 작성하면 다음의 [수학식 9]와 같이 표현되며, [수학식 9]을 풀어서 행렬 S를 추정할 수 있다.If the matrix S is rewritten as an optimization problem in the above-mentioned equation (5), it can be expressed as the following equation (9), and the matrix S can be estimated by solving equation (9).
여기서, 는 표기를 단순히 하기 위한 것이며, [수학식 8]에 의해 Xk+1가 주어진다.here, Xk + 1 " is given by " (8) "
전술한 [수학식 9]로부터 하위 문제에서의 closed form solution을 다음의 [수학식 10]과 같이 얻을 수 있다.From the above-mentioned equation (9), the closed form solution in the sub-problem can be obtained as the following equation (10).
[수학식 8]과 [수학식 10]은 closed form solution을 이용해서 Xk+1과 Sk+1를 계산하기 때문에 기존의 방법에 비해서 효율적이다.Equations (8) and (10) are more efficient than the conventional method because X k + 1 and S k + 1 are calculated using a closed form solution.
라그랑지 멀티플라이어 행렬 Λ는 계산된 Xk+1과 Sk+1와 ALM 알고리즘을 이용하여 업데이트한다(수학식 11, S106).The Lagrangian multiplier matrix Λ is updated using the calculated X k + 1 and S k + 1 and the ALM algorithm (Equation 11, S106).
행렬 X, 행렬 S, 라그랑지 멀티플라이어 행렬 Λ는 수학식 8, 수학식 10, 수학식 11에서의 closed form solution에 의해서 최적화된 변수로 업데이트된다.The matrix X, the matrix S, and the Lagrangian multiplier matrix A are updated with variables optimized by the closed form solution in Equations (8), (10) and (11).
불이익변수 μ는 적응적인 업데이트 전략을 이용하여 다음의 [수학식 12]와 같이 업데이트된다(S108).The disadvantageous variable [mu] is updated as in the following Equation (12) using an adaptive update strategy (S108).
여기서, 는 불이익변수 μ의 최대값이고, ρ>1와 k>0는 미리 정해진 상수이다.here, Is the maximum value of the disadvantageous variable μ, and ρ> 1 and k> 0 are predetermined constants.
행렬 X, 행렬 S, 라그랑지 멀티플라이어 행렬 Λ, 불이익변수 μ는 수학식 8, 수학식 10, 수학식 11, 수학식 12에 의해 업데이트된다.The matrix X, the matrix S, the Lagrangian multiplier matrix LAMBDA, and the disadvantageous variable mu are updated by Equations (8), (10), (11), and (12).
최적화된 변수들(X, S, Λ, μ)는 수렴할 때까지 반복하여 업데이트가 계속된다. k번째 반복에서의 수렴율(convergence rate) 은 다음의 [수학식 13]과 같이 정의되며, < 10-4 될 때까지 반복을 계속한다(S110).The optimized variables (X, S, L, μ) continue to be updated repeatedly until convergence. The convergence rate in the kth iteration Is defined as < EMI ID = 13.0 > Repeating is continued until <10 -4 (S110).
최적화 알고리즘부(102)는 전술한 [수학식 8], [수학식 10] 및 [수학식 11]에 의해 행렬 X, 행렬 S, 라그랑지 멀티플라이어 행렬 Λ에 대한 closed form solution을 구하는 것을 TNNM(Truncated Nuclear Norm Minimization)-ALM(Augmented Lagrange Multiplier) 알고리즘을 생성한다.The
최적화 알고리즘부(102)는 전술한 [수학식 3]으로 표현된 문제를 풀기 위하여 [수학식 8], [수학식 10] 및 [수학식 11]에 의해 행렬 X, 행렬 S, 라그랑지 멀티플라이어 행렬 Λ에 대한 closed form solution을 구하는 방법을 TNNM(Truncated Nuclear Norm Minimization)-ALM(Augmented Lagrange Multiplier) 알고리즘이라고 정의한다.In order to solve the problem expressed by the above-described expression (3), the
TNNM-ALM 알고리즘은 전체적으로 정리하면 다음과 같다.The TNNM-ALM algorithm is summarized as follows.
본 발명은 행렬의 랭크 함수를 Truncated Nuclear Norm으로 근사화하고 행렬 완성 문제를 효율적으로 푸는 것이 핵심이다.In the present invention, it is essential to approximate the rank function of a matrix to a Truncated Nuclear Norm and solve the matrix completion problem efficiently.
그 이유는 Truncated Nuclear Norm의 특성이 행렬의 랭크를 더 정확하게 근사화하지만 nonconvex 하기 때문에 문제를 풀기가 어렵기 때문이다.This is because the Truncated Nuclear Norm property approximates the rank of the matrix more accurately but is nonconvex, making it difficult to solve the problem.
본 발명은 행렬 완성(Maxtrix Completion) 문제를 푸는 것이다.The present invention solves the Maxtrix Completion problem.
최적화 알고리즘부(102)에서 생성한 TNNM-ALM 알고리즘을 이용하여 High Dynamic Range의 영상 분리부(120)와 영상 합성부(130)에 적용한다.Is applied to the
영상 합성부(130)는 서로 다른 노출 하에서 촬영된 움직임이 있는 여러 장의 영상을 합성하여 Ghosting Artifact가 없는 HDR 영상을 합성한다.The
대상 영상 행렬 생성부(110)는 배경과 객체를 분리하고자 하는 대상 영상을 입력받아 대상 영상의 화소들의 영상 신호값에 따른 행렬인 대상 영상 행렬을 생성한다(S200).The target
대상 영상 행렬 생성부(110)는 배경과 영상을 분리할 대상 영상에 대하여 대상 영상의 화소에서의 화소들의 영상 신호값들을 원소로 하는 행렬을 구성한다. 여기서. 대상 영상 행렬은 대상 영상에 대하여 구성된 행렬을 나타낸다.The target
대상 영상 행렬의 각 원소 값은 대상 영상의 영상 신호값이 될 수 있고, 영상 신호값은 다양한 종류의 색공간을 이용하여 획득하는 신호값들이 될 수 있다.Each element value of the target image matrix may be a video signal value of a target image and an image signal value may be signal values acquired using various kinds of color spaces.
대상 영상 행렬 생성부(110)에 입력되는 영상은 서로 다른 노출 시간을 이용하여 촬영된 영상의 행렬 이다.The image input to the target image
여기서, vec(Ii)는 카메라 반응 함수를 이용하여 구한 입력 밝기 벡터이다.Here, vec (Ii) is the input brightness vector obtained using the camera response function.
영상 분리부(120)는 행렬 X, 행렬 E, 행렬 S과 라그랑지 멀티플라이어를 초기화한다(S202).The
영상 분리부(120)는 장면의 밝기 D를 배경 행렬 X와 전경 행렬 E의 합으로 나타낼 수 있다. 배경은 정적이므로 행렬 X가 Low Rank이며 E는 희소 행렬(Sparse Matrix)이다.The
희소 행렬은 TNNM-ALM을 HDR 영상 취득에 적용할 때만 필요한 것이다. 고정된 카메라를 이용하여 서로 다른 노출 조건하에서 사진을 여러 장 찍는다. 이 때 장면에 움직이는 물제가 없다면, 촬영된 사진을 행렬로 표현하면 그 행렬은 단순히 배경만을 표현하므로 행렬의 랭크는 작을 것이다.The sparse matrix is only needed when applying TNNM-ALM to HDR image acquisition. Using a fixed camera, take multiple pictures under different exposure conditions. If there is no moving water in the scene at this time, if the photographed photographs are represented by a matrix, the matrix will simply be a background, and the rank of the matrix will be small.
그런데 사진을 찍는 동안 장면에 움직이는 물체가 있으면(걸어가는 사람 등), 그 행렬의 랭크가 클 것입니다. 그런데 배경은 동일하므로 이 행렬을 두 개의 행렬의 합으로 나타낼 수 있다(X+E). 이 때 행렬 X는 배경을 나타내므로 저 랭크 행렬이 되고 행렬 E는 움직이는 물체를 나타내는 행렬인데, 움직이는 물체의 크기가 영상의 크기에 비해서 작다고 가정하면, 행렬 E가 희소 행렬이 된다. 따라서, 행렬 E는 크기가 작은 움직이는 물체에 해당하게 된다.However, if there are moving objects in the scene (such as a person walking) while you are taking a picture, the rank of the matrix will be large. Since the background is the same, this matrix can be represented by the sum of two matrices (X + E). In this case, the matrix X is a low-rank matrix since it represents the background, and the matrix E is a matrix representing a moving object. Assuming that the size of the moving object is small relative to the size of the image, the matrix E becomes a sparse matrix. Therefore, the matrix E corresponds to a moving object having a small size.
영상 분리부(120)는 HDR 영상 취득을 위해 다음의 [수학식 14]와 같이 Rank 최소화 문제로 변환한다.The
여기서, 는 측정 영역 에서의 샘플링 연산자를 나타내며, λ는 X의 랭크와 E의 희소성 사이의 상대적 중요성을 조절한다.here, Lt; / RTI & Represents the sampling operator at, and lambda modulates the relative importance between the rank of X and the scarcity of E.
[수학식 14]는 여러 장의 입력 영상으로 구성한 측정 행렬 D가 배경을 나타내는 저 랭크 행렬 X와 움직이는 객체를 나타내는 희소 행렬 E의 합으로 표현될 수 있음을 나타내며, 측정 행렬 D로부터 저 랭크 행렬 X와 희소 행렬 E를 추정하는 최적화 문제를 표현한다.Equation (14) indicates that a measurement matrix D composed of a plurality of input images can be represented by a low rank matrix X representing a background and a rare matrix E representing a moving object. From the measurement matrix D, a low rank matrix X Expresses the optimization problem of estimating the sparse matrix E.
전술한 [수학식 14]의 최적화 문제는 직접 풀기 어렵기 때문에 여러 가지의 근사 기법을 이용하는데 영상 분리부(120)는 Rank 함수를 근사할 수 있도록 truncated nuclear norm으로 희소성을 L1 norm으로 근사한다.Since the optimization problem of Equation (14) described above is difficult to solve directly, various approximate techniques are used. The
즉, 랭크 함수 및 희소성 를 truncated nuclear norm 및 으로 근사화하여 다시 작성하면 다음의 [수학식 15]와 같이 표현된다.That is, the rank function and scarcity Truncated nuclear norm And , The following equation (15) is obtained.
여기서, λ는 X의 랭크와 E의 희소성 사이의 상대적 중요성을 조절하는 인자이고, 배경은 정적이고, 타겟 랭크(Target Rank) r은 1로 설정하고, 는 상기 희소 행렬의 L1 norm을 나타낸다.Where l is a factor controlling the relative importance between the rank of X and the scarcity of E, the background is static, the target rank r is set to 1, Represents the L1 norm of the sparse matrix.
전술한 TNNM-ALM 알고리즘을 [수학식 15]에 적용하여 최적화 문제를 풀게 된다.The optimization problem is solved by applying the TNNM-ALM algorithm described above to (15).
영상 분리부(120)는 전술한 [수학식 3]과 같이, 여유 변수(Slack Variables) 행렬 S를 [수학식 15]에 적용하여 다시 작성하면 다음의 [수학식 16]과 같이 표현한다.The
영상 분리부(120)는 [수학식 16]에 대한 라그랑지안 비용 함수(Augmented Lagrangian Function)를 정의하여 다음의 [수학식 17]과 같이 표현된다.The
다시 말해, 영상 분리부(120)는 대상 영상 행렬을 일정한 기준보다 작은 랭크(Rank) 값을 가지는 저 랭크 행렬(Low Rank Matrix)과 대상 영상 행렬에서 저 랭크 행렬 성분을 제외한 나머지 성분인 희소 행렬(Sparse Matrix) E의 합으로 설정하고, 상기 저 랭크 행렬에 대한 Truncated Nuclear Norm 연산 값과 상기 희소 행렬에 대한 L1 Norm 연산 값에 조절인자(λ)를 적용한 가중합을 라그랑지안 비용 함수로 설정하며 라그랑지안 비용 함수를 이용하여 저 랭크 행렬과 희소 행렬, 여유 변수 행렬을 산출한다(S204, S206, S208).In other words, the
저 랭크 행렬은 대상 영상 행렬을 주성분 분석함에 있어서 작은 수의 고유값(Eigen Value)이 큰 고유벡터(Eigen Vector)들로 구성되는 주성분에 해당하는 행렬이다.The low rank matrix is a matrix corresponding to a principal component composed of eigen vectors having a small number of eigenvalues in principal component analysis of a target image matrix.
여기서, 고유값이 큰 순서대로 일정한 개수의 고유벡터를 선정하여 해당 고유값을 적용한 고유벡터들의 합으로 대상 영상 행렬의 랭크값보다 작은 랭크값을 가지는 저 랭크 행렬을 획득할 수 있다.Here, a low rank matrix having a rank value smaller than the rank value of the target image matrix can be obtained as a sum of the eigenvectors by selecting a predetermined number of eigenvectors in order of increasing eigenvalues and applying the eigenvalues.
이와 같은 저 랭크 행렬은 대상 영상의 주성분에 관한 정보를 포함하는 행렬이고, 대상 영상에서 보다 많은 영역을 차지하고 있는 배경을 나타낸 행렬이 된다.The low rank matrix is a matrix including information on a principal component of a target image, and is a matrix showing a background occupying more area in the target image.
따라서, 대상 영상 행렬에서 저 랭크 행렬을 뺀 희소 행렬이 대상 영상에 포함하고 배경 상에서 일부분의 영역만을 차지하고 있는 객체를 나타내는 행렬이 된다.Therefore, a matrix representing an object that includes a sparse matrix obtained by subtracting a low rank matrix from a target image matrix and occupies only a partial area on the background is obtained.
영상 분리부(120)는 저 랭크 행렬과 희소 행렬, 여유 변수 행렬을 최적으로 분리하기 위하여 전술한 [수학식 17]과 같이 라그랑지안 비용 함수를 이용할 수 있다.The
[수학식 17]을 하위 문제들로 나누어 최적화 문제로 표현하면 다음의 [수학식 18]과 같이 표현된다.[Equation 17] is divided into sub-problems and expressed as an optimization problem, it is expressed as the following Equation (18).
영상 분리부(120)는 라그랑지 멀티플라이어가 적용된 라그랑지안 비용 함수를 이용하여 비용 함수의 해를 구하는 방법인 ALM(Augmented Lagrange Multiplier) 방법을 사용하여 비용 함수를 최소화 또는 일정한 범위 이내로 수렴하게 하는 저 랭크 행렬, 여유 변수 행렬, 희소 행렬을 산출한다(S204, S206, S208).The
라그랑지안 비용 함수를 최소화하는 X, E, S를 산출하기 위하여 최적 해 산출 방법을 이용할 수 있다.An optimal solution calculation method can be used to calculate X, E, and S minimizing the Lagrangian cost function.
여기서, 라그랑지안 비용 함수를 최소화하는 최적 해를 산출한다는 의미는 비용 함수를 최소화하는 해를 산출한다는 의미뿐만 아니라 일정한 기준 이내로 비용 함수의 크기가 작아지는 경우 또는 비용 함수가 수렴하는 경우의 해를 구한다는 의미를 포함한다.Here, the calculation of the optimal solution minimizing the Lagrangian cost function means not only a solution that minimizes the cost function but also a solution when the cost function becomes smaller within a certain standard or when the cost function converges It includes meaning.
라그랑지 멀티플라이어 행렬 Λ는 계산된 Xk+1, Sk+1, Ek+1를 이용하여 업데이트한다(수학식 19, S210).The Lagrangian multiplier matrix Λ is updated using the calculated X k + 1, S k + 1 , and E k + 1 (Equation 19, S210).
전술한 수학식 6, 7, 8과 같이, [수학식 18]의 하위 문제의 closed form solution는 PSVT 연산자에 의해서 다음의 [수학식 20]과 같이 얻을 수 있다.As shown in Equations (6), (7) and (8) above, the closed form solution of the lower problem of Equation (18) can be obtained by the following Equation (20) by the PSVT operator.
여기서, 는 단순한 표기로 나타낼 수 있으며, 수학식 18, 19 ,20에 의해 Xk+1, Sk, Λk가 주어진다.here, Can be represented by a simple notation, and X k + 1 , S k , and Λ k are given by Equations (18), (19) and (20).
불이익변수 갱신 단계(S212)와 수렴 판단 단계(S214)는 전술한 S108과 S110과 동일하므로 생략한다.The disadvantaged variable updating step (S212) and the convergence determination step (S214) are the same as those of S108 and S110 described above, so that they are omitted.
전술한 수학식 4와 수학식 17은 업데이트된 행렬 Ek+1가 있는 점이 차이점이다. 수학식 18, 19 ,20에 의해 Xk+1, Sk, Λk가 주어지면, 다음의 [수학식 21]과 같은 최적화된 행렬 Ek+1를 풀 수 있게 된다.The above equations (4) and (17) differ in that there is an updated matrix E k + 1 . Equation 18 and 19, given a 20 by X k + 1, S k, Λ k, it is possible to enjoy the optimized matrix E k + 1 as follows: [Equation 21].
[수학식 21]의 목적 함수(objective function)는 -norm 항 및 프로베니어스 놈 항으로 이루어져 있으므로 원소별 소프트 임계치 연산자(soft thresholding operator) 에 의해 효율적으로 최소화한다.The objective function in equation (21) -norm term and the Probenisch term, the soft thresholding operator for each element, Thereby effectively minimizing it.
전술한 [수학식 21]에서 closed form solution을 다음의 [수학식 22]에 의해 얻을 수 있다.The closed form solution in the above-mentioned expression (21) can be obtained by the following expression (22).
최적화 변수인 X, E, S 및 Λ는 수학식 19, 20, 21, 22에 의해 각각 업데이트된다.The optimization variables X, E, S and L are updated by equations (19), (20), (21) and (22), respectively.
영상 합성부(130)는 하기의 [수학식 23]을 이용하여 배경 행렬 X의 배경 밝기맵의 평균을 취하여 최종 HDR 영상을 구한다(S216).The
여기서, n은 입력 영상의 개수, Ri는 i 픽셀 위치에서의 추정된 밝기값, j=1부터 정수 n까지 변화하는 상수값을 나타낸다.Where n is the number of input images, Ri is the estimated brightness value at i pixel position, and a constant value varying from j = 1 to integer n.
본 발명은 저 랭크 행렬의 Truncated Nuclear Norm 최소화 기법을 이용하여 HDR 영상 합성 기법을 제공하고, 배경이 정적이라는 가정 하에 배경과 움직이는 객체를 각각 저 랭크 행렬과 희소 행렬로 표현하고, 배경 추정을 저 랭크 행렬의 완성 문제로 표현하며, ALM 방법을 이용하여 효율적으로 최적 해를 얻는다.The present invention provides an HDR image synthesis technique using a truncated nuclear norm minimization method of a low rank matrix, and expresses a background and a moving object as a low rank matrix and a sparse matrix on the assumption that the background is static, Matrices are expressed as the problem of completion, and the optimum solution is efficiently obtained by using the ALM method.
본 발명의 영상 처리 장치(100)는 기존의 기법에 비해 현저하게 적은 계산 복잡도를 가지며 더 높은 품질의 결과 영상을 제공한다.The
이상에서 설명한 본 발명의 실시예는 장치 및/또는 방법을 통해서만 구현이 되는 것은 아니며, 본 발명의 실시예의 구성에 대응하는 기능을 실현하기 위한 프로그램, 그 프로그램이 기록된 기록 매체 등을 통해 구현될 수도 있으며, 이러한 구현은 앞서 설명한 실시예의 기재로부터 본 발명이 속하는 기술분야의 전문가라면 쉽게 구현할 수 있는 것이다.The embodiments of the present invention described above are not implemented only by the apparatus and / or method, but may be implemented through a program for realizing functions corresponding to the configuration of the embodiment of the present invention, a recording medium on which the program is recorded And such an embodiment can be easily implemented by those skilled in the art from the description of the embodiments described above.
이상에서 본 발명의 실시예에 대하여 상세하게 설명하였지만 본 발명의 권리범위는 이에 한정되는 것은 아니고 다음의 청구범위에서 정의하고 있는 본 발명의 기본 개념을 이용한 당업자의 여러 변형 및 개량 형태 또한 본 발명의 권리범위에 속하는 것이다.While the present invention has been particularly shown and described with reference to exemplary embodiments thereof, it is to be understood that the invention is not limited to the disclosed exemplary embodiments, It belongs to the scope of right.
100: 영상 처리 장치
102: 최적화 알고리즘부
110: 대상 영상 행렬 생성부
120: 영상 분리부
130: 영상 합성부100: image processing device
102: Optimization Algorithm
110: target image matrix generation unit
120:
130:
Claims (11)
상기 대상 영상 행렬을 일정한 기준보다 작은 랭크(Rank) 값을 가지는 저 랭크 행렬(Low Rank Matrix)과 상기 대상 영상 행렬에서 상기 저 랭크 행렬 성분을 제외한 나머지 성분인 희소 행렬(Sparse Matrix)의 합으로 설정하고, 상기 저 랭크 행렬에 대한 Truncated Nuclear Norm 연산 값과 상기 희소 행렬에 대한 L1 놈(Norm) 연산 값에 상기 저 랭크 행렬과 상기 희소 행렬 사이의 상대적 중요성을 조절하는 인자를 적용한 가중합을 비용 함수로 설정하며, 상기 비용 함수를 이용하여 상기 저 랭크 행렬 및 상기 희소 행렬을 산출하는 영상 분리부를 포함하는 것을 특징으로 하는 영상 처리 장치.An object image matrix generation unit that receives a target image to be separated from a background and an object and generates a target image matrix that is a matrix according to image signal values of pixels of the target image; And
The target image matrix is set as a sum of a low rank matrix having a rank value smaller than a certain standard and a sparse matrix being a remaining element excluding the low rank matrix element in the target image matrix A weighted sum obtained by applying a factor adjusting the relative importance between the low rank matrix and the sparse matrix to a Truncated Nuclear Norm calculation value for the low rank matrix and an L 1 norm calculation value for the sparse matrix, And an image separation unit for calculating the low rank matrix and the sparse matrix using the cost function.
하기의 수학식 1을 이용하여 배경 영상인 상기 저 랭크 행렬의 배경 밝기맵의 평균을 취하여 최종 HDR(High Dynamic Range)의 영상을 구하는 영상 합성부를 더 포함하는 포함하는 것을 특징으로 하는 영상 처리 장치.
[수학식 1]
여기서, n은 입력 영상의 개수, Ri는 i 픽셀 위치에서의 추정된 밝기값, j=1부터 정수 n까지 변화하는 상수값을 나타냄.The method according to claim 1,
Further comprising an image synthesis unit for obtaining an image of a final HDR (High Dynamic Range) by taking an average of a background brightness map of the low rank matrix, which is a background image, using Equation (1) below.
[Equation 1]
Here, n is the number of input images, Ri is the estimated brightness value at the i pixel position, and a constant value varying from j = 1 to integer n.
상기 영상 분리부는 상기 저 랭크 행렬의 랭크 함수와 상기 희소 행렬을 truncated nuclear norm 및 으로 근사화하여 다시 작성하면 하기의 수학식 2와 같이 표현되고, 여유 변수 행렬 S를 상기 수학식 2에 적용하여 다시 작성하면 하기의 수학식 3과 같이 표현하여 상기 저 랭크 행렬과 상기 희소 행렬, 여유 변수 행렬을 최적화하여 분리하는 것을 특징으로 하는 영상 처리 장치.
[수학식 2]
여기서, 는 행렬 X의 truncated nuclear norm을 나타내고, λ는 상기 저 랭크 행렬(X)의 Rank와 상기 희소 행렬(E)의 희소성 사이의 상대적 중요성을 조절하는 인자이고, 타겟 랭크(Target Rank) r은 1로 설정하고, 는 측정 영역 에서의 샘플링 연산자, 는 상기 희소 행렬의 L1 norm을 나타냄.
[수학식 3]
여기서, S는 상기 여유 변수 행렬, 는 행렬의 프로베니어스 놈(Frobenius norm)이고, δ는 데이터 취득 과정에서 발생하는 잡음의 세기임.The method according to claim 1,
Wherein the image separator divides the rank function of the low rank matrix and the sparse matrix into a truncated nuclear norm And And the remainder variable matrix S is rewritten by applying Equation (2) to Equation (3), the low rank matrix, the rare matrix, the allowance And the variable matrix is optimized and separated.
&Quot; (2) "
here, Lambda is a factor controlling the relative importance between the Rank of the low rank matrix X and the scarcity of the sparse matrix E and the target rank r is 1 Setting, Lt; / RTI & The sampling operator at, Represents the L1 norm of the sparse matrix.
&Quot; (3) "
Where S is the allowance variable matrix, Is the Frobenius norm of the matrix, and [delta] is the intensity of the noise occurring during the data acquisition.
상기 영상 분리부는 상기 수학식 3에 대한 라그랑지안 비용 함수(Augmented Lagrangian Function)로 정의하면 하기의 수학식 4와 같이 표현되어 상기 저 랭크 행렬, 상기 희소 행렬과 상기 여유 변수 행렬을 최적으로 분리하는데 이용하는 것을 특징으로 하는 영상 처리 장치.
[수학식 4]
여기서, Λ는 라그랑지 멀티플라이어 행렬, μ는 불이익변수, <A, B> = tr(ABT)는 두 행렬의 내적연산(matrix inner product)을 나타냄.The method of claim 3,
The image separator may be expressed as Equation (4), and may be used to optimally separate the low rank matrix, the sparse matrix, and the allowable variable matrix, expressed as Equation (4) below, defined as augmented Lagrangian function of Equation The image processing apparatus characterized in.
&Quot; (4) "
Where A is a Lagrangian multiplier matrix, μ is a disadvantage variable, and A, B> = tr (AB T ) represent matrix inner products of two matrices.
상기 영상 분리부는 상기 수학식 4의 상기 저 랭크 행렬, 상기 희소 행렬과 상기 여유 변수 행렬, 상기 라그랑지 멀티플라이어를 순차적으로 최적화를 통해서 업데이트하여 다시 작성하면 하기의 수학식 5, 수학식 6과 같이 표현되며, 라그랑지 멀티플라이어가 적용된 라그랑지안 비용 함수를 이용하여 비용 함수의 해를 구하는 방법인 ALM(Augmented Lagrange Multiplier) 방법을 사용하여 비용 함수를 최소화 또는 일정한 범위 이내로 수렴하게 하는 상기 저 랭크 행렬, 상기 희소 행렬과 상기 여유 변수 행렬을 산출하는 것을 특징으로 하는 영상 처리 장치.
[수학식 5]
여기서, k는 몇번째 반복에 해당하는 Index를 나타냄.
[수학식 6]
5. The method of claim 4,
The image separation unit may sequentially update the low rank matrix, the sparse matrix and the redundant variable matrix, and the Lagrangian multiplier of Equation (4) sequentially through optimization and rewrite them as shown in Equations (5) and Rank matrix that minimizes the cost function or converges within a certain range by using an Augmented Lagrange Multiplier (ALM) method, which is a method of finding a solution of a cost function using a Lagrangian cost function to which Lagrangian multiplier is applied, And calculates the sparse matrix and the extra variable matrix.
&Quot; (5) "
Here, k represents an index corresponding to a repetition number of times.
&Quot; (6) "
상기 대상 영상 행렬을 일정한 기준보다 작은 랭크(Rank) 값을 가지는 저 랭크 행렬(Low Rank Matrix)을 설정하고, 상기 저 랭크 행렬과 여유 변수 행렬(Slack Variable)의 합으로 제한조건을 설정하며, 상기 저 랭크 행렬과 상기 여유 변수 행렬에 대한 라그랑지 멀티플라이어가 적용된 라그랑지안 비용 함수를 이용하여 제1 비용 함수의 해를 구하는 ALM(Augmented Lagrange Multiplier) 방법을 사용하여 상수 제1 비용 함수를 최소화 또는 일정한 범위 이내로 수렴하게 하여 상기 저 랭크 행렬, 상기 여유 변수 행렬을 산출하는 TNNM(Truncated Nuclear Norm Minimization)-ALM(Augmented Lagrange Multiplier) 알고리즘을 생성하는 최적화 알고리즘부를 포함하는 것을 특징으로 하는 영상 처리 장치.An object image matrix generation unit that receives a target image to be separated from a background and an object and generates a target image matrix that is a matrix according to image signal values of pixels of the target image; And
Sets a low rank matrix having a rank value smaller than a certain reference as the target image matrix and sets a constraint condition as a sum of the low rank matrix and a slack variable matrix, A constant first cost function can be minimized or a constant range can be minimized by using an augmented Lagrange Multiplier (ALM) method for obtaining a solution of a first cost function using a low rank matrix and a Lagrangian cost function applied with a Lagrangian multiplier for the extra variable matrix And an optimization algorithm unit for generating a TNMM (Augmented Lagrange Multiplier) algorithm for calculating the low rank matrix and the allowable variable matrix by causing the low rank matrix to converge within a predetermined range.
상기 생성한 TNNM-ALM 알고리즘을 활용하여 상기 대상 영상 행렬에서 상기 저 랭크 행렬 성분을 제외한 나머지를 희소 행렬(Sparse Matrix)로 설정하고, 상기 저 랭크 행렬에 대한 Truncated Nuclear Norm 연산 값과 상기 희소 행렬에 대한 L1 놈(Norm) 연산 값에 상기 저 랭크 행렬과 상기 희소 행렬 사이의 상대적 중요성을 조절하는 인자를 적용한 가중합을 제2 비용 함수로 설정하며, 상기 제2 비용 함수를 이용하여 상기 저 랭크 행렬, 상기 희소 행렬 및 상기 여유 변수 행렬을 산출하는 영상 분리부를 포함하는 것을 특징으로 하는 영상 처리 장치.The method according to claim 6,
The remaining TNMM-ALM algorithm is used to set the remainder excluding the low rank matrix component in the target image matrix to a sparse matrix, and a truncated Nuclear Norm computed value for the low rank matrix and a Rank matrix and the sparse matrix is applied to an Ll norm calculation value for the low-rank matrix and a low-rank matrix using the second cost function, And an image separator for calculating the sparse matrix and the freeness matrix.
상기 최적화 알고리즘부는 상기 저 랭크 행렬과 상기 여유 변수 행렬을 truncated nuclear norm 에 의해 랭크 함수를 근사화하여 다시 작성하면 하기의 수학식 1과 같이 표현되는 것을 특징으로 하는 영상 처리 장치.
[수학식 1]
여기서, 는 행렬 X의 truncated nuclear norm을 나타내고, 는 측정 영역 에서의 샘플링 연산자, S는 상기 여유 변수 행렬, 는 행렬의 프로베니어스 놈(Frobenius norm)이고, δ는 데이터 취득 과정에서 발생하는 잡음의 세기임.The method according to claim 6,
Wherein the optimization algorithm unit divides the low rank matrix and the extra variable matrix into a truncated nuclear norm And the rank function is approximated and rewritten by the following equation (1): " (1) "
[Equation 1]
here, Represents the truncated nuclear norm of the matrix X, Lt; / RTI & S is a sampling operator at the above-mentioned spare variable matrix, Is the Frobenius norm of the matrix, and [delta] is the intensity of the noise occurring during the data acquisition.
상기 최적화 알고리즘부는 상기 수학식 1을 라그랑지안 비용 함수(Augmented Lagrangian Function)로 정의하면 하기의 수학식 2와 같이 표현되어 상기 저 랭크 행렬, 상기 여유 변수 행렬을 최적으로 분리하는데 이용하는 것을 특징으로 하는 영상 처리 장치.
[수학식 2]
여기서, Λ는 라그랑지 멀티플라이어 행렬, μ는 불이익변수, <A, B> = tr(ABT)는 두 행렬의 내적연산(matrix inner product)을 나타냄.9. The method of claim 8,
The optimization algorithm unit may be expressed as Equation (2), and may be used to optimally separate the low rank matrix and the redundant variable matrix, if Equation (1) is defined as a Augmented Lagrangian Function. Device.
&Quot; (2) "
Where A is a Lagrangian multiplier matrix, μ is a disadvantage variable, and A, B> = tr (AB T ) represent matrix inner products of two matrices.
상기 최적화 알고리즘부는 상기 수학식 2에서 ALM(Augmented Lagrange Multiplier) 알고리즘을 수렴할 때까지 적용하여 라그랑지 멀티플라이어 행렬(Λ)를 예측하고, 상기 예측된 Λ에 대해서 비용 함수의 최소화하면 하기의 수학식 3과 수학식 4와 같이 표현되며 상기 비용 함수를 최소화 또는 일정한 범위 이내로 수렴하게 하는 상기 저 랭크 행렬, 상기 여유 변수 행렬을 산출하는 것을 특징으로 하는 영상 처리 장치.
[수학식 3]
[수학식 4]
10. The method of claim 9,
The optimization algorithm unit predicts the Lagrangian multiplier matrix A by applying an Augmented Lagrange Multiplier (ALM) algorithm until convergence in Equation (2), minimizes the cost function for the predicted Λ, 3 and Equation (4), and calculates the low rank matrix and the extra variable matrix to minimize the cost function or to converge the cost function within a predetermined range.
&Quot; (3) "
&Quot; (4) "
상기 영상 분리부는 상기 저 랭크 행렬의 랭크 함수와 상기 희소 행렬을 truncated nuclear norm 및 으로 근사화하여 다시 작성하면 하기의 수학식 5와 같이 표현되고, 여유 변수 행렬 S를 상기 수학식 5에 적용하여 다시 작성하면 하기의 수학식 6과 같이 표현하여 상기 저 랭크 행렬과 상기 희소 행렬, 여유 변수 행렬을 최적화하여 분리하는 것을 특징으로 하는 영상 처리 장치.
[수학식 5]
여기서, 는 행렬 X의 truncated nuclear norm을 나타내고, λ는 상기 저 랭크 행렬(X)의 Rank와 상기 희소 행렬(E)의 희소성 사이의 상대적 중요성을 조절하는 인자이고, 타겟 랭크(Target Rank) r은 1로 설정하고, 는 측정 영역 에서의 샘플링 연산자, 는 상기 희소 행렬의 L1 norm을 나타냄.
[수학식 6]
여기서, S는 상기 여유 변수 행렬, 는 행렬의 프로베니어스 놈(Frobenius norm)이고, δ는 데이터 취득 과정에서 발생하는 잡음의 세기임.
8. The method of claim 7,
Wherein the image separator divides the rank function of the low rank matrix and the sparse matrix into a truncated nuclear norm And And the remainder variable matrix S is rewritten by applying Equation (5) to Equation (6), the low rank matrix and the rare matrix, the allowance And the variable matrix is optimized and separated.
&Quot; (5) "
here, Lambda is a factor controlling the relative importance between the Rank of the low rank matrix X and the scarcity of the sparse matrix E and the target rank r is 1 Setting, Lt; / RTI & The sampling operator at, Represents the L1 norm of the sparse matrix.
&Quot; (6) "
Where S is the allowance variable matrix, Is the Frobenius norm of the matrix, and [delta] is the intensity of the noise occurring during the data acquisition.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020160146815A KR101740647B1 (en) | 2016-11-04 | 2016-11-04 | Apparatus for Processing High Dynamic Range Imaging |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020160146815A KR101740647B1 (en) | 2016-11-04 | 2016-11-04 | Apparatus for Processing High Dynamic Range Imaging |
Publications (1)
Publication Number | Publication Date |
---|---|
KR101740647B1 true KR101740647B1 (en) | 2017-06-08 |
Family
ID=59221235
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020160146815A KR101740647B1 (en) | 2016-11-04 | 2016-11-04 | Apparatus for Processing High Dynamic Range Imaging |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR101740647B1 (en) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109325446A (en) * | 2018-09-19 | 2019-02-12 | 电子科技大学 | A kind of method for detecting infrared puniness target based on weighting truncation nuclear norm |
KR20190067721A (en) * | 2017-12-07 | 2019-06-17 | 한국과학기술원 | Matrix Sparsificating Method and System in Distributed Computing System |
CN112924349A (en) * | 2021-01-27 | 2021-06-08 | 安徽优思天成智能科技有限公司 | Diesel vehicle image smoke intensity detection method and system |
CN113870130A (en) * | 2021-09-16 | 2021-12-31 | 西安理工大学 | Low-rank tensor completion method based on three-dimensional total variation and Tucker decomposition |
CN117333681A (en) * | 2023-09-26 | 2024-01-02 | 中国科学院国家空间科学中心 | Hyperspectral abnormal target detection method and system based on weighted sparsity |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015213234A (en) | 2014-05-02 | 2015-11-26 | 日本放送協会 | Pseudo hdr image estimation device and method |
-
2016
- 2016-11-04 KR KR1020160146815A patent/KR101740647B1/en active IP Right Grant
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015213234A (en) | 2014-05-02 | 2015-11-26 | 日本放送協会 | Pseudo hdr image estimation device and method |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20190067721A (en) * | 2017-12-07 | 2019-06-17 | 한국과학기술원 | Matrix Sparsificating Method and System in Distributed Computing System |
KR102192560B1 (en) | 2017-12-07 | 2020-12-17 | 한국과학기술원 | Matrix Sparsificating Method and System in Distributed Computing System |
CN109325446A (en) * | 2018-09-19 | 2019-02-12 | 电子科技大学 | A kind of method for detecting infrared puniness target based on weighting truncation nuclear norm |
CN109325446B (en) * | 2018-09-19 | 2021-06-22 | 电子科技大学 | Infrared weak and small target detection method based on weighted truncation nuclear norm |
CN112924349A (en) * | 2021-01-27 | 2021-06-08 | 安徽优思天成智能科技有限公司 | Diesel vehicle image smoke intensity detection method and system |
CN113870130A (en) * | 2021-09-16 | 2021-12-31 | 西安理工大学 | Low-rank tensor completion method based on three-dimensional total variation and Tucker decomposition |
CN113870130B (en) * | 2021-09-16 | 2024-02-06 | 西安理工大学 | Low-rank tensor completion method based on three-dimensional total variation and Tucker decomposition |
CN117333681A (en) * | 2023-09-26 | 2024-01-02 | 中国科学院国家空间科学中心 | Hyperspectral abnormal target detection method and system based on weighted sparsity |
CN117333681B (en) * | 2023-09-26 | 2024-05-14 | 中国科学院国家空间科学中心 | Hyperspectral abnormal target detection method and system based on weighted sparsity |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101740647B1 (en) | Apparatus for Processing High Dynamic Range Imaging | |
US20240169483A1 (en) | Systems and Methods for Synthesizing High Resolution Images Using Images Captured by an Array of Independently Controllable Imagers | |
CN109791688B (en) | Exposure dependent luminance conversion | |
JP6489551B2 (en) | Method and system for separating foreground from background in a sequence of images | |
EP4198875A1 (en) | Image fusion method, and training method and apparatus for image fusion model | |
CN106373105B (en) | Multi-exposure image artifact removing fusion method based on low-rank matrix recovery | |
CN111835983B (en) | Multi-exposure-image high-dynamic-range imaging method and system based on generation countermeasure network | |
US20050259870A1 (en) | Image processing apparatus and method, and image pickup apparatus | |
US7130464B2 (en) | Image processing device | |
US9299011B2 (en) | Signal processing apparatus, signal processing method, output apparatus, output method, and program for learning and restoring signals with sparse coefficients | |
CN113689539B (en) | Dynamic scene real-time three-dimensional reconstruction method based on implicit optical flow field | |
US7024050B2 (en) | Image processing apparatus | |
CN112884682A (en) | Stereo image color correction method and system based on matching and fusion | |
CN109461122B (en) | Compressed sensing image reconstruction method based on multi-viewpoint images | |
US20180061083A1 (en) | System and method for calculating image similarity and recording medium | |
KR102192016B1 (en) | Method and Apparatus for Image Adjustment Based on Semantics-Aware | |
WO2001030067A1 (en) | An apparatus for and method of estimating the illumination of an image | |
US7352917B2 (en) | Image processing apparatus and method, and image pickup apparatus | |
Cheng et al. | Semantic single-image dehazing | |
JP7482232B2 (en) | Deep Loop Filters with Time-warpable Convolution | |
JP2012238932A (en) | 3d automatic color correction device and color correction method and color correction program | |
US20230132230A1 (en) | Efficient Video Execution Method and System | |
JP6826277B2 (en) | Image processing system, image processing method, and image processing program | |
Shuang et al. | Algorithms for improving the quality of underwater optical images: A comprehensive review | |
CN115699073A (en) | Neural network supported camera image or video processing pipeline |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant |