KR101740647B1 - Apparatus for Processing High Dynamic Range Imaging - Google Patents

Apparatus for Processing High Dynamic Range Imaging Download PDF

Info

Publication number
KR101740647B1
KR101740647B1 KR1020160146815A KR20160146815A KR101740647B1 KR 101740647 B1 KR101740647 B1 KR 101740647B1 KR 1020160146815 A KR1020160146815 A KR 1020160146815A KR 20160146815 A KR20160146815 A KR 20160146815A KR 101740647 B1 KR101740647 B1 KR 101740647B1
Authority
KR
South Korea
Prior art keywords
matrix
quot
image
rank
equation
Prior art date
Application number
KR1020160146815A
Other languages
Korean (ko)
Inventor
이철
람 에드문드
Original Assignee
부경대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 부경대학교 산학협력단 filed Critical 부경대학교 산학협력단
Priority to KR1020160146815A priority Critical patent/KR101740647B1/en
Application granted granted Critical
Publication of KR101740647B1 publication Critical patent/KR101740647B1/en

Links

Images

Classifications

    • H04N5/2355
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • G06T5/007
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20208High dynamic range [HDR] image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)

Abstract

HDR 영상 처리 장치는 저 랭크 행렬의 Truncated Nuclear Norm 최소화 기법을 이용하여 HDR 영상 합성 기법을 제공하고, 배경이 정적이라는 가정 하에 배경과 움직이는 객체를 각각 저 랭크 행렬과 희소 행렬로 표현하고, 배경 추정을 저 랭크 행렬의 완성 문제로 표현하며, ALM(Augmented Lagrange Multiplier) 방법을 이용하여 효율적으로 최적 해를 얻음으로써 현저하게 적은 계산 복잡도를 가지며 더 높은 품질의 결과 영상을 제공한다.The HDR image processing apparatus provides the HDR image synthesis technique using the truncated Nuclear Norm minimization method of the low rank matrix and expresses the background and the moving object as the low rank matrix and the sparse matrix on the assumption that the background is static, It is expressed as the completion problem of the low rank matrix. By using the Augmented Lagrange Multiplier (ALM) method, the optimal solution is obtained efficiently, and the resultant image has a remarkably low computational complexity and a higher quality.

Description

HDR 영상 처리 장치{Apparatus for Processing High Dynamic Range Imaging}[0001] The present invention relates to an HDR image processing apparatus,

본 발명은 HDR(High Dynamic Range) 영상 처리 장치에 관한 것으로서, 특히 저 랭크 행렬의 Truncated Nuclear Norm 최소화 기법을 이용하여 HDR 영상 합성 기법을 제공하고, 배경이 정적이라는 가정 하에 배경과 움직이는 객체를 각각 저 랭크 행렬과 희소 행렬로 표현하고, 배경 추정을 저 랭크 행렬의 완성 문제로 표현하며, ALM(Augmented Lagrange Multiplier) 방법을 이용하여 효율적으로 최적 해를 얻음으로써 현저하게 적은 계산 복잡도를 가지며 더 높은 품질의 결과 영상을 제공하는 HDR 영상 처리 장치에 관한 것이다.The present invention relates to an HDR (High Dynamic Range) image processing apparatus, and more particularly, to an HDR image synthesis method using a truncated nuclear norm minimization method of a low rank matrix, Rank matrices and sparse matrices, the background estimation is expressed as a problem of the completion of the low rank matrix, and the optimal solution is obtained efficiently using the Augmented Lagrange Multiplier (ALM) method, And an HDR image processing apparatus for providing a resultant image.

최근 디지털 영상 기술의 발전으로 스마트폰을 포함한 다양한 장치를 이용하여 고해상도의 영상을 취득할 수 있다.With the recent development of digital image technology, it is possible to acquire high resolution image by using various devices including smart phone.

이에 반해 일반적인 디지털 카메라는 실제 장면보다 훨씬 낮은 동적 영역을 갖는 영상만을 취득할 수 있다. 따라서, 취득된 영상은 제한된 동적 영역으로 인하여 장면의 모든 정보를 포함할 수 없는 한계가 있다. 이러한 단점을 극복하고 장면의 모든 동적 영역의 정보를 취득하기 위한 많은 연구가 진행되고 있다.On the other hand, a typical digital camera can acquire only an image having a dynamic range much lower than that of a real scene. Therefore, there is a limitation that the acquired image can not include all the information of the scene due to the limited dynamic range. Many studies have been conducted to overcome these drawbacks and obtain information of all dynamic regions of the scene.

이와 같은 높은 동적 영역을 갖는 영상을 HDR(High Dynamic Range) 영상이라고 한다. HDR 영상을 취득하는 가장 기초적인 방법은 서로 다른 노출 시간으로 촬영된 LDR(Low Dynamic Range) 영상을 합성하는 것이다.An image having such a high dynamic range is called an HDR (High Dynamic Range) image. The most basic method to acquire HDR images is to synthesize LDR (Low Dynamic Range) images photographed at different exposure times.

하지만 촬영을 하는 동안 일반적으로 객체 또는 카메라의 움직임이 있기 때문에 이러한 간단한 방법으로 HDR 영상을 합성할 경우 Ghosting Artifact가 발생한다. 따라서, Ghosting Artifact가 없는 고품질의 HDR 영상을 취득하는 기법은 매우 중요한 연구 주제이다.However, Ghosting Artifact occurs when HDR images are synthesized with this simple method because there is generally motion of object or camera during shooting. Therefore, the technique of obtaining high quality HDR image without Ghosting artifact is a very important research topic.

움직이는 장면에서 고품질의 HDR 영상을 취득하는 방법은 입력 LDR 영상을 정합한 후 결과 영상을 이용하여 HDR 영상을 합성할 수 있다. 하지만 이러한 기법은 높은 계산 복잡도를 보이는 단점이 있었다.A method of acquiring high quality HDR image in a moving scene can synthesize an HDR image using the resultant image after matching the input LDR image. However, this technique has a disadvantage of high computational complexity.

최근의 HDR 영상을 취득하는 기법은 입력 영상에서 배경 부분이 정적이고 움직이는 물체가 희소하다는 가정 하에 로우 랭크(Low Rank) 행렬 완성 문제를 적용한 HDR 합성 기법을 제안하였다.Recently, the technique of acquiring the HDR image proposed the HDR synthesis technique applying the low rank matrix completion problem on the assumption that the background part is static and the moving object is rare in the input image.

그러나 이러한 기법은 행렬의 Rank를 정확하게 근사화하지 못한다는 단점이 있었다. However, this technique has a disadvantage in that it can not approximate the rank of a matrix accurately.

이와 같은 문제점을 해결하기 위하여, 본 발명은 저 랭크 행렬의 Truncated Nuclear Norm 최소화 기법을 이용하여 HDR 영상 합성 기법을 제공하고, 배경이 정적이라는 가정 하에 배경과 움직이는 객체를 각각 저 랭크 행렬과 희소 행렬로 표현하고, 배경 추정을 저 랭크 행렬의 완성 문제로 표현하며, ALM(Augmented Lagrange Multiplier) 방법을 이용하여 효율적으로 최적 해를 얻음으로써 현저하게 적은 계산 복잡도를 가지며 더 높은 품질의 결과 영상을 제공하는 HDR 영상 처리 장치를 제공하는데 그 목적이 있다.In order to solve this problem, the present invention provides an HDR image synthesis method using a truncated nuclear norm minimization method of a low rank matrix, and provides a low-rank matrix and a sparse matrix as background and moving objects, respectively, , HDR (Higher Order Reasoning), which provides a higher quality result image with remarkably lower computational complexity by efficiently obtaining the optimal solution using the Augmented Lagrange Multiplier (ALM) method, expresses the background estimation as a completion problem of the low rank matrix, And an object thereof is to provide an image processing apparatus.

상기 목적을 달성하기 위한 본 발명의 특징에 따른 HDR 영상 처리 장치는,According to an aspect of the present invention, there is provided an apparatus for processing an HDR image,

배경과 객체를 분리하고자 하는 대상 영상을 입력받아 상기 대상 영상의 화소들의 영상 신호값에 따른 행렬인 대상 영상 행렬을 생성하는 대상 영상 행렬 생성부; 및An object image matrix generation unit that receives a target image to be separated from a background and an object and generates a target image matrix that is a matrix according to image signal values of pixels of the target image; And

상기 대상 영상 행렬을 일정한 기준보다 작은 랭크(Rank) 값을 가지는 저 랭크 행렬(Low Rank Matrix)과 상기 대상 영상 행렬에서 상기 저 랭크 행렬 성분을 제외한 나머지 성분인 희소 행렬(Sparse Matrix)의 합으로 설정하고, 상기 저 랭크 행렬에 대한 Truncated Nuclear Norm 연산 값과 상기 희소 행렬에 대한 L1 놈(Norm) 연산 값에 상기 저 랭크 행렬과 상기 희소 행렬 사이의 상대적 중요성을 조절하는 인자를 적용한 가중합을 비용 함수로 설정하며, 상기 비용 함수를 이용하여 상기 저 랭크 행렬 및 상기 희소 행렬을 산출하는 영상 분리부를 포함하는 것을 특징으로 한다.The target image matrix is set as a sum of a low rank matrix having a rank value smaller than a certain standard and a sparse matrix being a remaining element excluding the low rank matrix element in the target image matrix A weighted sum obtained by applying a factor adjusting the relative importance between the low rank matrix and the sparse matrix to a Truncated Nuclear Norm calculation value for the low rank matrix and an L 1 norm calculation value for the sparse matrix, And an image separation unit for calculating the low rank matrix and the sparse matrix using the cost function.

본 발명의 특징에 따른 HDR 영상 처리 장치는,According to an aspect of the present invention,

배경과 객체를 분리하고자 하는 대상 영상을 입력받아 상기 대상 영상의 화소들의 영상 신호값에 따른 행렬인 대상 영상 행렬을 생성하는 대상 영상 행렬 생성부; 및An object image matrix generation unit that receives a target image to be separated from a background and an object and generates a target image matrix that is a matrix according to image signal values of pixels of the target image; And

상기 대상 영상 행렬을 일정한 기준보다 작은 랭크(Rank) 값을 가지는 저 랭크 행렬(Low Rank Matrix)을 설정하고, 상기 저 랭크 행렬과 여유 변수 행렬(Slack Variable)의 합으로 제한조건을 설정하며, 상기 저 랭크 행렬과 상기 여유 변수 행렬에 대한 라그랑지 멀티플라이어가 적용된 라그랑지안 비용 함수를 이용하여 제1 비용 함수의 해를 구하는 ALM(Augmented Lagrange Multiplier) 방법을 사용하여 상수 제1 비용 함수를 최소화 또는 일정한 범위 이내로 수렴하게 하여 상기 저 랭크 행렬, 상기 여유 변수 행렬을 산출하는 TNNM(Truncated Nuclear Norm Minimization)-ALM(Augmented Lagrange Multiplier) 알고리즘을 생성하는 최적화 알고리즘부를 포함하는 것을 특징으로 한다.Sets a low rank matrix having a rank value smaller than a certain reference as the target image matrix and sets a constraint condition as a sum of the low rank matrix and a slack variable matrix, A constant first cost function can be minimized or a constant range can be minimized by using an augmented Lagrange Multiplier (ALM) method for obtaining a solution of a first cost function using a low rank matrix and a Lagrangian cost function applied with a Lagrangian multiplier for the extra variable matrix And an optimization algorithm unit for generating a TNNM (Augmented Lagrange Multiplier) algorithm to calculate the low rank matrix and the allowable variable matrix.

전술한 구성에 의하여, 본 발명은 TNNM(Truncated Nuclear Norm Minimization)-ALM(Augmented Lagrange Multiplier) 알고리즘을 이용하여 HDR 영상을 합성하면 계산 복잡도가 기존 방법에 비해 현저하기 낮기 때문에 모바일 디바이스 등 낮은 계산 관련 전력을 구비한 장치에서도 높은 품질의 HDR 영상을 취득할 수 있는 효과가 있다.According to the above-described configuration, when HDR images are synthesized using a TNMM (Augmented Lagrange Multiplier) algorithm, the computational complexity is remarkably lower than that of conventional methods, It is possible to acquire a high-quality HDR image even in an apparatus equipped with the above-described apparatus.

도 1은 본 발명의 실시예에 따른 영상 처리 장치의 구성을 간략하게 나타낸 블록도이다.
도 2는 본 발명의 실시예에 따른 TNNM-ALM 알고리즘을 생성하는 일련의 절차를 나타낸 도면이다.
도 3은 본 발명의 실시예에 따른 TNNM-ALM 알고리즘을 이용한 HDR 영상 합성 방법을 나타낸 도면이다.
1 is a block diagram briefly showing a configuration of an image processing apparatus according to an embodiment of the present invention.
FIG. 2 is a diagram illustrating a series of procedures for generating a TNNM-ALM algorithm according to an embodiment of the present invention. Referring to FIG.
3 is a diagram illustrating a method of synthesizing an HDR image using a TNNM-ALM algorithm according to an embodiment of the present invention.

명세서 전체에서, 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미한다.Throughout the specification, when an element is referred to as "comprising ", it means that it can include other elements as well, without excluding other elements unless specifically stated otherwise.

도 1은 본 발명의 실시예에 따른 영상 처리 장치의 구성을 간략하게 나타낸 블록도이고, 도 2는 본 발명의 실시예에 따른 TNNM-ALM 알고리즘을 생성하는 일련의 절차를 나타낸 도면이고, 도 3은 본 발명의 실시예에 따른 TNNM-ALM 알고리즘을 이용한 HDR 영상 합성 방법을 나타낸 도면이다.FIG. 1 is a block diagram briefly showing a configuration of an image processing apparatus according to an embodiment of the present invention. FIG. 2 is a diagram illustrating a series of procedures for generating a TNNM-ALM algorithm according to an embodiment of the present invention. Is a diagram illustrating a method of synthesizing an HDR image using a TNNM-ALM algorithm according to an embodiment of the present invention.

본 발명의 실시예에 따른 영상 처리 장치(100)는 최적화 알고리즘부(102), 대상 영상 행렬 생성부(110), 영상 분리부(120) 및 영상 합성부(130)를 포함한다.The image processing apparatus 100 according to the embodiment of the present invention includes an optimization algorithm unit 102, a target image matrix generation unit 110, an image separation unit 120, and an image synthesis unit 130.

최적화 알고리즘부(102)는 행렬의 Truncated Nuclear Norm 최소화를 이용하여 기존 기법에 비해서 더 정확한 행렬 Rank를 근사화할 수 있도록 문제를 공식화한 후, ALM(Augmented Lagrange Multiplier) 기법을 이용하여 효율적으로 최적의 해를 구하는 기법을 제안한다.The optimization algorithm unit 102 formulates the problem so that a more accurate matrix rank can be approximated by using the truncated nucleus norm minimization of the matrix, and then, by using the Augmented Lagrange Multiplier (ALM) technique, We propose a technique to obtain

Figure 112016108115579-pat00001
Figure 112016108115579-pat00001

여기서,

Figure 112016108115579-pat00002
는 행렬 X의 nuclear norm이고,
Figure 112016108115579-pat00003
은 행렬 X의 k번째 특이값(singular value)이며,
Figure 112016108115579-pat00004
는 행렬 X를
Figure 112016108115579-pat00005
에서 샘플링하는 연산자이다.here,
Figure 112016108115579-pat00002
Is the nuclear norm of matrix X,
Figure 112016108115579-pat00003
Is the kth singular value of the matrix X,
Figure 112016108115579-pat00004
Lt; RTI ID = 0.0 >
Figure 112016108115579-pat00005
. ≪ / RTI >

행렬 X에 대한 행렬 완성 문제를 효율적으로 풀기 위하여 rank(X)가 nonconvex하고 분리되어 있기 때문에 전술한 [수학식 1]과 같이 근사한 후에 풀게 된다.In order to efficiently solve the matrix completion problem for the matrix X, since the rank (X) is nonconvex and separated, it is solved after approximation as in the above-mentioned Equation (1).

그러나 [수학식 1]은 nuclear norm이 행렬의 랭크를 정확하게 근사화하지 못하는 단점이 있어 아래의 [수학식 2]와 같이 truncated nuclear norm의 최소화로 변환한다.However, Equation (1) has a disadvantage in that the nuclear norm can not approximate the rank of the matrix precisely, and is converted into minimization of the truncated nuclear norm as shown in Equation (2) below.

Figure 112016108115579-pat00006
Figure 112016108115579-pat00006

여기서,

Figure 112016108115579-pat00007
는 행렬 X의 truncated nuclear norm을 나타낸다.here,
Figure 112016108115579-pat00007
Represents the truncated nuclear norm of the matrix X.

전술한 [수학식 2]는 행렬의 랭크를 정확히 근사하는 장점이 있으나 반복(iteration)을 이용하여 풀기 때문에 효율적이지 못한 단점이 있다.The above-described expression (2) has an advantage of exactly approximating the rank of the matrix but it is not efficient because it is solved using iteration.

최적화 알고리즘부(102)는 행렬 X와 행렬 S를 초기화한다(S100).The optimization algorithm unit 102 initializes the matrix X and the matrix S (S100).

최적화 알고리즘부(102)는 행렬 X의 truncated nuclear norm 최소화 문제를 효율적으로 풀기 위해서 전술한 [수학식 2]에 여유 변수(slack variable)인 행렬 S를 추가하고 [수학식 2]를 변형하여 다음의 [수학식 3]과 같이 변환한다.In order to solve the problem of minimizing the truncated nuclear norm of the matrix X, the optimization algorithm unit 102 adds a matrix S, which is a slack variable, to the above-described equation (2) (3). &Quot; (3) "

이러한 [수학식 3]은 데이터 취득 과정에서 발생하는 잡음을 고려한다. 즉, 잡음 행렬 N을 이용한 데이터 취득 과정은

Figure 112016108115579-pat00008
로 표현된다.Equation (3) takes into account the noise generated in the data acquisition process. That is, the data acquisition process using the noise matrix N
Figure 112016108115579-pat00008
Lt; / RTI >

Figure 112016108115579-pat00009
Figure 112016108115579-pat00009

여기서,

Figure 112016108115579-pat00010
는 행렬의 프로베니어스 놈(Frobenius norm)이고, δ는 데이터 취득 과정에서 발생하는 잡음의 세기이며, 행렬 X는 구하고자 하는 저 랭크 행렬을 나타낸 것이다. 프로베니어스 놈은 모든 행렬 원소의 절대값의 제곱의 합을 구하는 연산이다.here,
Figure 112016108115579-pat00010
Is the Frobenius norm of the matrix, [delta] is the intensity of the noise occurring in the data acquisition process, and matrix X is the low rank matrix to be sought. The Probenisch norm is an operation that calculates the sum of squares of the absolute values of all matrix elements.

전술한 수학식 2에서 행렬 X에 샘플링 연산자를 적용해야 하기 때문에 직접 풀기가 매우 어렵다. 따라서, 문제를 쉽게 풀기 위하여 여유 변수 행렬 S를 추가하면 수학식 3을 얻을 수 있다.Since it is necessary to apply the sampling operator to the matrix X in Equation (2), it is very difficult to solve the problem directly. Therefore, if the extra variable matrix S is added to easily solve the problem, Equation 3 can be obtained.

수학식 3에는 데이터 취득 과정에서 발생하는 잡음을 고려하는 항이 있는데 여기서, 잡음을 무시하면(즉,

Figure 112016108115579-pat00011
=0), 새로운 미지수 행렬 S를 추가하는 대신에 기존 미지수 X에 적용하는 샘플링 연산자를 제거하는 효과가 있다.In Equation (3), there is a term that considers the noise generated in the data acquisition process. If noise is ignored (i.e.,
Figure 112016108115579-pat00011
= 0), there is an effect of removing the sampling operator which applies to the unknown unknown X instead of adding the new unknown matrix S.

다시 말해, 수학식 2와 수힉식 3은 동일한 문제인데 여유 변수 행렬을 추가하여 문제를 쉽게 풀 수 있는 형태로 변경하는 것이다.In other words, equations (2) and (3) are the same problem, but the problem is easily solved by adding an extra variable matrix.

[수학식 3]은 기존 행렬 X에 대한 문제가 행렬 X와 행렬 S에 대한 문제로 변환된 것이다. 새로운 변수인 행렬 S를 추가하고 행렬 X에서 프로젝션 연산자(Projection Operator)

Figure 112016108115579-pat00012
를 분리하여 각 행렬 변수 X 및 S에 대한 closed form solution을 구할 수 있다.[Mathematical Expression 3] is a problem in which the problem with the existing matrix X is transformed into a problem with the matrix X and the matrix S. We add a new variable, matrix S, and use the projection operator in matrix X,
Figure 112016108115579-pat00012
To obtain a closed form solution for each matrix variable X and S.

최적화 알고리즘부(102)는 전술한 [수학식 3]에 대한 라그랑지안 비용 함수(Augmented Lagrangian Function)로 정의하며 다음의 [수학식 4]와 같이 표현된다.The optimization algorithm unit 102 is defined as an Augmented Lagrangian Function for the above-described Equation (3) and expressed as Equation (4) below.

Figure 112016108115579-pat00013
Figure 112016108115579-pat00013

여기서, μ는 불이익변수(Penalty Parameter)이고, Λ는 라그랑지 멀티플라이어 행렬, <A, B> = tr(ABT)는 두 행렬의 내적연산(matrix inner product), X는 저 랭크 행렬(Low Rank Matrix), S는 여유 변수(slack variable)인 행렬을 나타낸다.Here, μ is a disadvantage variable (Penalty Parameter) and, Λ is a Lagrangian multiplier matrix, <A, B> = tr (AB T) is the inner product calculation of the two matrices (matrix inner product), X is a low-rank matrix (Low Rank Matrix), and S is a slack variable matrix.

여유 변수는 선형 계획법에서의 단체 해법시 부동식으로 변환하기 위해 사용되는 변수로서 희박한 에러를 가진 행렬 보완 문제를 해결하는 기능을 한다.The allowance variable is a variable used to convert to a floating type in the grouping solution in the linear programming, and functions to solve the problem of matrix complementation with sparse errors.

여유 변수는 최적화 변수의 수를 증가시키고 최적화 중에 각 반복에서 행렬 X의 closed form의 해답을 얻는 것을 가능하게 한다.The allowance variable makes it possible to increase the number of optimization variables and obtain the closed form solution of matrix X at each iteration during optimization.

라그랑지 멀티플라이어 행렬은 제약 조건이 비용 함수 즉 목적 함수에 포함되기 위해 이용되는 변수로서 전체 비용 함수에서 제약 조건이 가지는 가중치를 결정하는 역할을 수행한다.The Lagrangian multiplier matrix is a variable used for constraints to be included in the cost function, that is, the objective function, and serves to determine the weight of the constraint in the overall cost function.

최적화 알고리즘부(102)는 [수학식 4]의 라그랑지 멀티플라이어 행렬(Λ)과 불이익 변수 μ를 예측하고, 그 예측된 Λ에 대해서 [수학식 4]의 비용 함수를 최소화함으로써 해를 구하는 방법인 ALM(Augmented Lagrange Multiplier) 알고리즘을 이용하여 행렬 X와 행렬 S를 산출한다(S102, S104).The optimization algorithm unit 102 predicts the Lagrangian multiplier matrix L and the disadvantage variable 占 of Equation 4 and calculates a solution by minimizing the cost function of Equation 4 with respect to the predicted Λ (ALM) algorithm to calculate a matrix X and a matrix S (S102, S104).

최적화 알고리즘부(102)는 ALM 방법을 수렴할 때까지 반복하여 최적화된 해 및 라그랑지 멀티플라이어 행렬을 예측한다.The optimization algorithm unit 102 repeatedly predicts the optimized solution and Lagrangian multiplier matrix until it converges to the ALM method.

k번째 반복에서 다음의 [수학식 5]의 최적화 문제를 풀어서 전술한 행렬 X와 행렬 S를 구한다.In the k-th iteration, the optimization problem of the following equation (5) is solved to obtain the matrix X and the matrix S described above.

Figure 112016108115579-pat00014
Figure 112016108115579-pat00014

여기서, k는 몇번째 반복에 해당하는 Index를 나타낸다.Here, k represents an Index corresponding to a repetition number of times.

[수학식 5]는 행렬 X와 행렬 S에 대해서 동시에 문제를 풀 수 없기 때문에 아래의 [수학식 6]과 [수학식 9]와 같이 행렬 X와 행렬 S를 순차적으로 업데이트한다.[Mathematical Expression 5] can not solve the problem simultaneously for the matrix X and the matrix S. Therefore, the matrix X and the matrix S are sequentially updated as shown in Equation 6 and Equation 9 below.

전술한 [수학식 6]과 [수학식 9]는 closed form solution에 의해 효율적으로 계산되므로 전술한 [수학식 5]에 비해서 계산 복잡성이 줄어들 수 있다.Since the above equations (6) and (9) are efficiently calculated by the closed form solution, the computational complexity can be reduced as compared to Equation (5).

전술한 [수학식 5]에서 행렬 X를 최적화하여 다시 작성하면 다음의 [수학식 6]과 같이 표현된다.In the above-mentioned equation (5), when the matrix X is optimized and rewritten, it is represented as the following equation (6).

Figure 112016108115579-pat00015
Figure 112016108115579-pat00015

여기서, Sk와 Λk는 주어진 추정치를 나타내며, [수학식 6]의 closed form solution는 PSVT(Partial Singular Value Thresholding) 연산자에 의해 다음의 [수학식 8]과 같이 얻을 수 있다.Here, S k and Λ k represent given estimates, and the closed form solution of Equation (6) can be obtained by the following Equation (8) by the PSVT (Partial Singular Value Thresholding) operator.

PSVT 연산자는 다음의 [수학식 7]과 같이 정의된다.The PSVT operator is defined as: &quot; (7) &quot;

Figure 112016108115579-pat00016
Figure 112016108115579-pat00016

여기서, T는 전치행렬을 계산하는 연산자이며,

Figure 112016108115579-pat00017
는 원소별 소프트 임계치 연산자(soft thresholding operator)인
Figure 112016108115579-pat00018
를 의미한다.Here, T is an operator for calculating the transpose matrix,
Figure 112016108115579-pat00017
Is an elementary soft thresholding operator
Figure 112016108115579-pat00018
.

PSVT 연산자는 가중된 nuclear norm으로 표현된 목적 함수를 푸는 특별한 케이스가 있으며, 일반적인 가중된 nuclear norm의 최적화 문제에 사용되어 하위 문제를 푸는데 이용된다.The PSVT operator has a special case for solving the objective function expressed by the weighted nuclear norm and is used to solve the subproblem used in the optimization problem of the general weighted nuclear norm.

Figure 112016108115579-pat00019
Figure 112016108115579-pat00019

여기서,

Figure 112016108115579-pat00020
는 [수학식 7]의 PSVT 연산자를 나타낸다.here,
Figure 112016108115579-pat00020
Represents the PSVT operator of Equation (7).

전술한 [수학식 5]에서 행렬 S를 최적화 문제로 다시 작성하면 다음의 [수학식 9]와 같이 표현되며, [수학식 9]을 풀어서 행렬 S를 추정할 수 있다.If the matrix S is rewritten as an optimization problem in the above-mentioned equation (5), it can be expressed as the following equation (9), and the matrix S can be estimated by solving equation (9).

Figure 112016108115579-pat00021
Figure 112016108115579-pat00021

여기서,

Figure 112016108115579-pat00022
는 표기를 단순히 하기 위한 것이며, [수학식 8]에 의해 Xk+1가 주어진다.here,
Figure 112016108115579-pat00022
Xk + 1 &quot; is given by &quot; (8) &quot;

전술한 [수학식 9]로부터 하위 문제에서의 closed form solution을 다음의 [수학식 10]과 같이 얻을 수 있다.From the above-mentioned equation (9), the closed form solution in the sub-problem can be obtained as the following equation (10).

Figure 112016108115579-pat00023
Figure 112016108115579-pat00023

[수학식 8]과 [수학식 10]은 closed form solution을 이용해서 Xk+1과 Sk+1를 계산하기 때문에 기존의 방법에 비해서 효율적이다.Equations (8) and (10) are more efficient than the conventional method because X k + 1 and S k + 1 are calculated using a closed form solution.

라그랑지 멀티플라이어 행렬 Λ는 계산된 Xk+1과 Sk+1와 ALM 알고리즘을 이용하여 업데이트한다(수학식 11, S106).The Lagrangian multiplier matrix Λ is updated using the calculated X k + 1 and S k + 1 and the ALM algorithm (Equation 11, S106).

Figure 112016108115579-pat00024
Figure 112016108115579-pat00024

행렬 X, 행렬 S, 라그랑지 멀티플라이어 행렬 Λ는 수학식 8, 수학식 10, 수학식 11에서의 closed form solution에 의해서 최적화된 변수로 업데이트된다.The matrix X, the matrix S, and the Lagrangian multiplier matrix A are updated with variables optimized by the closed form solution in Equations (8), (10) and (11).

불이익변수 μ는 적응적인 업데이트 전략을 이용하여 다음의 [수학식 12]와 같이 업데이트된다(S108).The disadvantageous variable [mu] is updated as in the following Equation (12) using an adaptive update strategy (S108).

Figure 112016108115579-pat00025
Figure 112016108115579-pat00025

여기서,

Figure 112016108115579-pat00026
는 불이익변수 μ의 최대값이고, ρ>1와 k>0는 미리 정해진 상수이다.here,
Figure 112016108115579-pat00026
Is the maximum value of the disadvantageous variable μ, and ρ> 1 and k> 0 are predetermined constants.

행렬 X, 행렬 S, 라그랑지 멀티플라이어 행렬 Λ, 불이익변수 μ는 수학식 8, 수학식 10, 수학식 11, 수학식 12에 의해 업데이트된다.The matrix X, the matrix S, the Lagrangian multiplier matrix LAMBDA, and the disadvantageous variable mu are updated by Equations (8), (10), (11), and (12).

최적화된 변수들(X, S, Λ, μ)는 수렴할 때까지 반복하여 업데이트가 계속된다. k번째 반복에서의 수렴율(convergence rate)

Figure 112016108115579-pat00027
은 다음의 [수학식 13]과 같이 정의되며,
Figure 112016108115579-pat00028
< 10-4 될 때까지 반복을 계속한다(S110).The optimized variables (X, S, L, μ) continue to be updated repeatedly until convergence. The convergence rate in the kth iteration
Figure 112016108115579-pat00027
Is defined as < EMI ID = 13.0 &gt;
Figure 112016108115579-pat00028
Repeating is continued until <10 -4 (S110).

Figure 112016108115579-pat00029
Figure 112016108115579-pat00029

최적화 알고리즘부(102)는 전술한 [수학식 8], [수학식 10] 및 [수학식 11]에 의해 행렬 X, 행렬 S, 라그랑지 멀티플라이어 행렬 Λ에 대한 closed form solution을 구하는 것을 TNNM(Truncated Nuclear Norm Minimization)-ALM(Augmented Lagrange Multiplier) 알고리즘을 생성한다.The optimization algorithm unit 102 obtains a closed form solution for the matrix X, the matrix S, and the Lagrangian multiplier matrix Λ by the above-described Equations (8), (10) and (11) Truncated Nuclear Norm Minimization) -ALM (Augmented Lagrange Multiplier) algorithm.

최적화 알고리즘부(102)는 전술한 [수학식 3]으로 표현된 문제를 풀기 위하여 [수학식 8], [수학식 10] 및 [수학식 11]에 의해 행렬 X, 행렬 S, 라그랑지 멀티플라이어 행렬 Λ에 대한 closed form solution을 구하는 방법을 TNNM(Truncated Nuclear Norm Minimization)-ALM(Augmented Lagrange Multiplier) 알고리즘이라고 정의한다.In order to solve the problem expressed by the above-described expression (3), the optimization algorithm unit 102 calculates a matrix X, a matrix S, a Lagrangian multiplier A closed form solution for the matrix Λ is defined as a TNNM (Augmented Lagrange Multiplier) algorithm.

TNNM-ALM 알고리즘은 전체적으로 정리하면 다음과 같다.The TNNM-ALM algorithm is summarized as follows.

Figure 112016108115579-pat00030
Figure 112016108115579-pat00030

본 발명은 행렬의 랭크 함수를 Truncated Nuclear Norm으로 근사화하고 행렬 완성 문제를 효율적으로 푸는 것이 핵심이다.In the present invention, it is essential to approximate the rank function of a matrix to a Truncated Nuclear Norm and solve the matrix completion problem efficiently.

그 이유는 Truncated Nuclear Norm의 특성이 행렬의 랭크를 더 정확하게 근사화하지만 nonconvex 하기 때문에 문제를 풀기가 어렵기 때문이다.This is because the Truncated Nuclear Norm property approximates the rank of the matrix more accurately but is nonconvex, making it difficult to solve the problem.

본 발명은 행렬 완성(Maxtrix Completion) 문제를 푸는 것이다.The present invention solves the Maxtrix Completion problem.

최적화 알고리즘부(102)에서 생성한 TNNM-ALM 알고리즘을 이용하여 High Dynamic Range의 영상 분리부(120)와 영상 합성부(130)에 적용한다.Is applied to the image separating unit 120 and the image synthesizing unit 130 of the High Dynamic Range using the TNNM-ALM algorithm generated by the optimization algorithm unit 102.

영상 합성부(130)는 서로 다른 노출 하에서 촬영된 움직임이 있는 여러 장의 영상을 합성하여 Ghosting Artifact가 없는 HDR 영상을 합성한다.The image synthesizer 130 synthesizes a plurality of images having motion captured under different exposures to synthesize an HDR image without a ghosting artifact.

대상 영상 행렬 생성부(110)는 배경과 객체를 분리하고자 하는 대상 영상을 입력받아 대상 영상의 화소들의 영상 신호값에 따른 행렬인 대상 영상 행렬을 생성한다(S200).The target image matrix generator 110 receives the target image to be separated from the background and the object, and generates a target image matrix, which is a matrix according to the image signal values of the pixels of the target image (S200).

대상 영상 행렬 생성부(110)는 배경과 영상을 분리할 대상 영상에 대하여 대상 영상의 화소에서의 화소들의 영상 신호값들을 원소로 하는 행렬을 구성한다. 여기서. 대상 영상 행렬은 대상 영상에 대하여 구성된 행렬을 나타낸다.The target image matrix generator 110 forms a matrix having image signal values of pixels in pixels of a target image as elements, with respect to a target image to be separated from a background image. here. The target image matrix represents a matrix constructed for the target image.

대상 영상 행렬의 각 원소 값은 대상 영상의 영상 신호값이 될 수 있고, 영상 신호값은 다양한 종류의 색공간을 이용하여 획득하는 신호값들이 될 수 있다.Each element value of the target image matrix may be a video signal value of a target image and an image signal value may be signal values acquired using various kinds of color spaces.

대상 영상 행렬 생성부(110)에 입력되는 영상은 서로 다른 노출 시간을 이용하여 촬영된 영상의 행렬

Figure 112016108115579-pat00031
이다.The image input to the target image matrix generation unit 110 is a matrix of images captured using different exposure times
Figure 112016108115579-pat00031
to be.

여기서, vec(Ii)는 카메라 반응 함수를 이용하여 구한 입력 밝기 벡터이다.Here, vec (Ii) is the input brightness vector obtained using the camera response function.

영상 분리부(120)는 행렬 X, 행렬 E, 행렬 S과 라그랑지 멀티플라이어를 초기화한다(S202).The image separator 120 initializes a matrix X, a matrix E, a matrix S and a Lagrangian multiplier (S202).

영상 분리부(120)는 장면의 밝기 D를 배경 행렬 X와 전경 행렬 E의 합으로 나타낼 수 있다. 배경은 정적이므로 행렬 X가 Low Rank이며 E는 희소 행렬(Sparse Matrix)이다.The image separator 120 may represent the brightness D of the scene as a sum of the background matrix X and the foreground matrix E. [ Since the background is static, matrix X is a Low Rank and E is a sparse matrix.

희소 행렬은 TNNM-ALM을 HDR 영상 취득에 적용할 때만 필요한 것이다. 고정된 카메라를 이용하여 서로 다른 노출 조건하에서 사진을 여러 장 찍는다. 이 때 장면에 움직이는 물제가 없다면, 촬영된 사진을 행렬로 표현하면 그 행렬은 단순히 배경만을 표현하므로 행렬의 랭크는 작을 것이다.The sparse matrix is only needed when applying TNNM-ALM to HDR image acquisition. Using a fixed camera, take multiple pictures under different exposure conditions. If there is no moving water in the scene at this time, if the photographed photographs are represented by a matrix, the matrix will simply be a background, and the rank of the matrix will be small.

그런데 사진을 찍는 동안 장면에 움직이는 물체가 있으면(걸어가는 사람 등), 그 행렬의 랭크가 클 것입니다. 그런데 배경은 동일하므로 이 행렬을 두 개의 행렬의 합으로 나타낼 수 있다(X+E). 이 때 행렬 X는 배경을 나타내므로 저 랭크 행렬이 되고 행렬 E는 움직이는 물체를 나타내는 행렬인데, 움직이는 물체의 크기가 영상의 크기에 비해서 작다고 가정하면, 행렬 E가 희소 행렬이 된다. 따라서, 행렬 E는 크기가 작은 움직이는 물체에 해당하게 된다.However, if there are moving objects in the scene (such as a person walking) while you are taking a picture, the rank of the matrix will be large. Since the background is the same, this matrix can be represented by the sum of two matrices (X + E). In this case, the matrix X is a low-rank matrix since it represents the background, and the matrix E is a matrix representing a moving object. Assuming that the size of the moving object is small relative to the size of the image, the matrix E becomes a sparse matrix. Therefore, the matrix E corresponds to a moving object having a small size.

영상 분리부(120)는 HDR 영상 취득을 위해 다음의 [수학식 14]와 같이 Rank 최소화 문제로 변환한다.The image separating unit 120 converts the Rank minimization problem into the following Equation (14) for HDR image acquisition.

Figure 112016108115579-pat00032
Figure 112016108115579-pat00032

여기서,

Figure 112016108115579-pat00033
는 측정 영역
Figure 112016108115579-pat00034
에서의 샘플링 연산자를 나타내며, λ는 X의 랭크와 E의 희소성 사이의 상대적 중요성을 조절한다.here,
Figure 112016108115579-pat00033
Lt; / RTI &
Figure 112016108115579-pat00034
Represents the sampling operator at, and lambda modulates the relative importance between the rank of X and the scarcity of E.

[수학식 14]는 여러 장의 입력 영상으로 구성한 측정 행렬 D가 배경을 나타내는 저 랭크 행렬 X와 움직이는 객체를 나타내는 희소 행렬 E의 합으로 표현될 수 있음을 나타내며, 측정 행렬 D로부터 저 랭크 행렬 X와 희소 행렬 E를 추정하는 최적화 문제를 표현한다.Equation (14) indicates that a measurement matrix D composed of a plurality of input images can be represented by a low rank matrix X representing a background and a rare matrix E representing a moving object. From the measurement matrix D, a low rank matrix X Expresses the optimization problem of estimating the sparse matrix E.

전술한 [수학식 14]의 최적화 문제는 직접 풀기 어렵기 때문에 여러 가지의 근사 기법을 이용하는데 영상 분리부(120)는 Rank 함수를 근사할 수 있도록 truncated nuclear norm으로 희소성을 L1 norm으로 근사한다.Since the optimization problem of Equation (14) described above is difficult to solve directly, various approximate techniques are used. The image separator 120 approximates the scarcity as a truncated nuclear norm to approximate the Rank function with L1 norm.

즉, 랭크 함수 및 희소성

Figure 112016108115579-pat00035
를 truncated nuclear norm
Figure 112016108115579-pat00036
Figure 112016108115579-pat00037
으로 근사화하여 다시 작성하면 다음의 [수학식 15]와 같이 표현된다.That is, the rank function and scarcity
Figure 112016108115579-pat00035
Truncated nuclear norm
Figure 112016108115579-pat00036
And
Figure 112016108115579-pat00037
, The following equation (15) is obtained.

Figure 112016108115579-pat00038
Figure 112016108115579-pat00038

여기서, λ는 X의 랭크와 E의 희소성 사이의 상대적 중요성을 조절하는 인자이고, 배경은 정적이고, 타겟 랭크(Target Rank) r은 1로 설정하고,

Figure 112016108115579-pat00039
는 상기 희소 행렬의 L1 norm을 나타낸다.Where l is a factor controlling the relative importance between the rank of X and the scarcity of E, the background is static, the target rank r is set to 1,
Figure 112016108115579-pat00039
Represents the L1 norm of the sparse matrix.

전술한 TNNM-ALM 알고리즘을 [수학식 15]에 적용하여 최적화 문제를 풀게 된다.The optimization problem is solved by applying the TNNM-ALM algorithm described above to (15).

영상 분리부(120)는 전술한 [수학식 3]과 같이, 여유 변수(Slack Variables) 행렬 S를 [수학식 15]에 적용하여 다시 작성하면 다음의 [수학식 16]과 같이 표현한다.The image separating unit 120 rewrites the Slack Variables matrix S into Equation (15) as shown in Equation (3), and expresses it as Equation (16).

Figure 112016108115579-pat00040
Figure 112016108115579-pat00040

영상 분리부(120)는 [수학식 16]에 대한 라그랑지안 비용 함수(Augmented Lagrangian Function)를 정의하여 다음의 [수학식 17]과 같이 표현된다.The image separating unit 120 defines an augmented Lagrangian function for [Expression 16] and is expressed as [Expression 17].

Figure 112016108115579-pat00041
Figure 112016108115579-pat00041

다시 말해, 영상 분리부(120)는 대상 영상 행렬을 일정한 기준보다 작은 랭크(Rank) 값을 가지는 저 랭크 행렬(Low Rank Matrix)과 대상 영상 행렬에서 저 랭크 행렬 성분을 제외한 나머지 성분인 희소 행렬(Sparse Matrix) E의 합으로 설정하고, 상기 저 랭크 행렬에 대한 Truncated Nuclear Norm 연산 값과 상기 희소 행렬에 대한 L1 Norm 연산 값에 조절인자(λ)를 적용한 가중합을 라그랑지안 비용 함수로 설정하며 라그랑지안 비용 함수를 이용하여 저 랭크 행렬과 희소 행렬, 여유 변수 행렬을 산출한다(S204, S206, S208).In other words, the image separating unit 120 separates the target image matrix into a low rank matrix having a rank value lower than a certain standard and a low-rank matrix having a rank matrix excluding the low rank matrix elements Sparse Matrix) E, a weighted sum obtained by applying a truncated Nuclear Norm operation value for the low rank matrix and an adjustment factor (?) To the L1 Norm operation value for the sparse matrix is set as a Lagrangian cost function, and a Lagrangian cost Function, a low-rank matrix, a sparse matrix, and an extra variable matrix are calculated (S204, S206, S208).

저 랭크 행렬은 대상 영상 행렬을 주성분 분석함에 있어서 작은 수의 고유값(Eigen Value)이 큰 고유벡터(Eigen Vector)들로 구성되는 주성분에 해당하는 행렬이다.The low rank matrix is a matrix corresponding to a principal component composed of eigen vectors having a small number of eigenvalues in principal component analysis of a target image matrix.

여기서, 고유값이 큰 순서대로 일정한 개수의 고유벡터를 선정하여 해당 고유값을 적용한 고유벡터들의 합으로 대상 영상 행렬의 랭크값보다 작은 랭크값을 가지는 저 랭크 행렬을 획득할 수 있다.Here, a low rank matrix having a rank value smaller than the rank value of the target image matrix can be obtained as a sum of the eigenvectors by selecting a predetermined number of eigenvectors in order of increasing eigenvalues and applying the eigenvalues.

이와 같은 저 랭크 행렬은 대상 영상의 주성분에 관한 정보를 포함하는 행렬이고, 대상 영상에서 보다 많은 영역을 차지하고 있는 배경을 나타낸 행렬이 된다.The low rank matrix is a matrix including information on a principal component of a target image, and is a matrix showing a background occupying more area in the target image.

따라서, 대상 영상 행렬에서 저 랭크 행렬을 뺀 희소 행렬이 대상 영상에 포함하고 배경 상에서 일부분의 영역만을 차지하고 있는 객체를 나타내는 행렬이 된다.Therefore, a matrix representing an object that includes a sparse matrix obtained by subtracting a low rank matrix from a target image matrix and occupies only a partial area on the background is obtained.

영상 분리부(120)는 저 랭크 행렬과 희소 행렬, 여유 변수 행렬을 최적으로 분리하기 위하여 전술한 [수학식 17]과 같이 라그랑지안 비용 함수를 이용할 수 있다.The image separator 120 may use the Lagrangian cost function as shown in Equation (17) to optimally separate the low rank matrix, the sparse matrix, and the extra variable matrix.

[수학식 17]을 하위 문제들로 나누어 최적화 문제로 표현하면 다음의 [수학식 18]과 같이 표현된다.[Equation 17] is divided into sub-problems and expressed as an optimization problem, it is expressed as the following Equation (18).

Figure 112016108115579-pat00042
Figure 112016108115579-pat00042

영상 분리부(120)는 라그랑지 멀티플라이어가 적용된 라그랑지안 비용 함수를 이용하여 비용 함수의 해를 구하는 방법인 ALM(Augmented Lagrange Multiplier) 방법을 사용하여 비용 함수를 최소화 또는 일정한 범위 이내로 수렴하게 하는 저 랭크 행렬, 여유 변수 행렬, 희소 행렬을 산출한다(S204, S206, S208).The image separating unit 120 separates the low cost function into a low cost function for minimizing the cost function or converging the cost function within a predetermined range by using an Augmented Lagrange Multiplier (ALM) method, which is a method of finding a solution of a cost function using a Lagrangian cost function using a Lagrangian multiplier. Matrix, a spare variable matrix, and a sparse matrix are calculated (S204, S206, S208).

라그랑지안 비용 함수를 최소화하는 X, E, S를 산출하기 위하여 최적 해 산출 방법을 이용할 수 있다.An optimal solution calculation method can be used to calculate X, E, and S minimizing the Lagrangian cost function.

여기서, 라그랑지안 비용 함수를 최소화하는 최적 해를 산출한다는 의미는 비용 함수를 최소화하는 해를 산출한다는 의미뿐만 아니라 일정한 기준 이내로 비용 함수의 크기가 작아지는 경우 또는 비용 함수가 수렴하는 경우의 해를 구한다는 의미를 포함한다.Here, the calculation of the optimal solution minimizing the Lagrangian cost function means not only a solution that minimizes the cost function but also a solution when the cost function becomes smaller within a certain standard or when the cost function converges It includes meaning.

라그랑지 멀티플라이어 행렬 Λ는 계산된 Xk+1, Sk+1, Ek+1를 이용하여 업데이트한다(수학식 19, S210).The Lagrangian multiplier matrix Λ is updated using the calculated X k + 1, S k + 1 , and E k + 1 (Equation 19, S210).

Figure 112016108115579-pat00043
Figure 112016108115579-pat00043

전술한 수학식 6, 7, 8과 같이, [수학식 18]의 하위 문제의 closed form solution는 PSVT 연산자에 의해서 다음의 [수학식 20]과 같이 얻을 수 있다.As shown in Equations (6), (7) and (8) above, the closed form solution of the lower problem of Equation (18) can be obtained by the following Equation (20) by the PSVT operator.

Figure 112016108115579-pat00044
Figure 112016108115579-pat00044

여기서,

Figure 112016108115579-pat00045
는 단순한 표기로 나타낼 수 있으며, 수학식 18, 19 ,20에 의해 Xk+1, Sk, Λk가 주어진다.here,
Figure 112016108115579-pat00045
Can be represented by a simple notation, and X k + 1 , S k , and Λ k are given by Equations (18), (19) and (20).

불이익변수 갱신 단계(S212)와 수렴 판단 단계(S214)는 전술한 S108과 S110과 동일하므로 생략한다.The disadvantaged variable updating step (S212) and the convergence determination step (S214) are the same as those of S108 and S110 described above, so that they are omitted.

전술한 수학식 4와 수학식 17은 업데이트된 행렬 Ek+1가 있는 점이 차이점이다. 수학식 18, 19 ,20에 의해 Xk+1, Sk, Λk가 주어지면, 다음의 [수학식 21]과 같은 최적화된 행렬 Ek+1를 풀 수 있게 된다.The above equations (4) and (17) differ in that there is an updated matrix E k + 1 . Equation 18 and 19, given a 20 by X k + 1, S k, Λ k, it is possible to enjoy the optimized matrix E k + 1 as follows: [Equation 21].

Figure 112016108115579-pat00046
Figure 112016108115579-pat00046

[수학식 21]의 목적 함수(objective function)는

Figure 112016108115579-pat00047
-norm 항 및 프로베니어스 놈 항으로 이루어져 있으므로 원소별 소프트 임계치 연산자(soft thresholding operator)
Figure 112016108115579-pat00048
에 의해 효율적으로 최소화한다.The objective function in equation (21)
Figure 112016108115579-pat00047
-norm term and the Probenisch term, the soft thresholding operator for each element,
Figure 112016108115579-pat00048
Thereby effectively minimizing it.

전술한 [수학식 21]에서 closed form solution을 다음의 [수학식 22]에 의해 얻을 수 있다.The closed form solution in the above-mentioned expression (21) can be obtained by the following expression (22).

Figure 112016108115579-pat00049
Figure 112016108115579-pat00049

최적화 변수인 X, E, S 및 Λ는 수학식 19, 20, 21, 22에 의해 각각 업데이트된다.The optimization variables X, E, S and L are updated by equations (19), (20), (21) and (22), respectively.

영상 합성부(130)는 하기의 [수학식 23]을 이용하여 배경 행렬 X의 배경 밝기맵의 평균을 취하여 최종 HDR 영상을 구한다(S216).The image synthesizer 130 obtains the final HDR image by taking an average of the background brightness map of the background matrix X using the following equation (23) (S216).

Figure 112016108115579-pat00050
Figure 112016108115579-pat00050

여기서, n은 입력 영상의 개수, Ri는 i 픽셀 위치에서의 추정된 밝기값, j=1부터 정수 n까지 변화하는 상수값을 나타낸다.Where n is the number of input images, Ri is the estimated brightness value at i pixel position, and a constant value varying from j = 1 to integer n.

본 발명은 저 랭크 행렬의 Truncated Nuclear Norm 최소화 기법을 이용하여 HDR 영상 합성 기법을 제공하고, 배경이 정적이라는 가정 하에 배경과 움직이는 객체를 각각 저 랭크 행렬과 희소 행렬로 표현하고, 배경 추정을 저 랭크 행렬의 완성 문제로 표현하며, ALM 방법을 이용하여 효율적으로 최적 해를 얻는다.The present invention provides an HDR image synthesis technique using a truncated nuclear norm minimization method of a low rank matrix, and expresses a background and a moving object as a low rank matrix and a sparse matrix on the assumption that the background is static, Matrices are expressed as the problem of completion, and the optimum solution is efficiently obtained by using the ALM method.

본 발명의 영상 처리 장치(100)는 기존의 기법에 비해 현저하게 적은 계산 복잡도를 가지며 더 높은 품질의 결과 영상을 제공한다.The image processing apparatus 100 of the present invention provides a result image of higher quality with significantly less computation complexity than the conventional technique.

이상에서 설명한 본 발명의 실시예는 장치 및/또는 방법을 통해서만 구현이 되는 것은 아니며, 본 발명의 실시예의 구성에 대응하는 기능을 실현하기 위한 프로그램, 그 프로그램이 기록된 기록 매체 등을 통해 구현될 수도 있으며, 이러한 구현은 앞서 설명한 실시예의 기재로부터 본 발명이 속하는 기술분야의 전문가라면 쉽게 구현할 수 있는 것이다.The embodiments of the present invention described above are not implemented only by the apparatus and / or method, but may be implemented through a program for realizing functions corresponding to the configuration of the embodiment of the present invention, a recording medium on which the program is recorded And such an embodiment can be easily implemented by those skilled in the art from the description of the embodiments described above.

이상에서 본 발명의 실시예에 대하여 상세하게 설명하였지만 본 발명의 권리범위는 이에 한정되는 것은 아니고 다음의 청구범위에서 정의하고 있는 본 발명의 기본 개념을 이용한 당업자의 여러 변형 및 개량 형태 또한 본 발명의 권리범위에 속하는 것이다.While the present invention has been particularly shown and described with reference to exemplary embodiments thereof, it is to be understood that the invention is not limited to the disclosed exemplary embodiments, It belongs to the scope of right.

100: 영상 처리 장치
102: 최적화 알고리즘부
110: 대상 영상 행렬 생성부
120: 영상 분리부
130: 영상 합성부
100: image processing device
102: Optimization Algorithm
110: target image matrix generation unit
120:
130:

Claims (11)

배경과 객체를 분리하고자 하는 대상 영상을 입력받아 상기 대상 영상의 화소들의 영상 신호값에 따른 행렬인 대상 영상 행렬을 생성하는 대상 영상 행렬 생성부; 및
상기 대상 영상 행렬을 일정한 기준보다 작은 랭크(Rank) 값을 가지는 저 랭크 행렬(Low Rank Matrix)과 상기 대상 영상 행렬에서 상기 저 랭크 행렬 성분을 제외한 나머지 성분인 희소 행렬(Sparse Matrix)의 합으로 설정하고, 상기 저 랭크 행렬에 대한 Truncated Nuclear Norm 연산 값과 상기 희소 행렬에 대한 L1 놈(Norm) 연산 값에 상기 저 랭크 행렬과 상기 희소 행렬 사이의 상대적 중요성을 조절하는 인자를 적용한 가중합을 비용 함수로 설정하며, 상기 비용 함수를 이용하여 상기 저 랭크 행렬 및 상기 희소 행렬을 산출하는 영상 분리부를 포함하는 것을 특징으로 하는 영상 처리 장치.
An object image matrix generation unit that receives a target image to be separated from a background and an object and generates a target image matrix that is a matrix according to image signal values of pixels of the target image; And
The target image matrix is set as a sum of a low rank matrix having a rank value smaller than a certain standard and a sparse matrix being a remaining element excluding the low rank matrix element in the target image matrix A weighted sum obtained by applying a factor adjusting the relative importance between the low rank matrix and the sparse matrix to a Truncated Nuclear Norm calculation value for the low rank matrix and an L 1 norm calculation value for the sparse matrix, And an image separation unit for calculating the low rank matrix and the sparse matrix using the cost function.
제1항에 있어서,
하기의 수학식 1을 이용하여 배경 영상인 상기 저 랭크 행렬의 배경 밝기맵의 평균을 취하여 최종 HDR(High Dynamic Range)의 영상을 구하는 영상 합성부를 더 포함하는 포함하는 것을 특징으로 하는 영상 처리 장치.
[수학식 1]
Figure 112016108115579-pat00051

여기서, n은 입력 영상의 개수, Ri는 i 픽셀 위치에서의 추정된 밝기값, j=1부터 정수 n까지 변화하는 상수값을 나타냄.
The method according to claim 1,
Further comprising an image synthesis unit for obtaining an image of a final HDR (High Dynamic Range) by taking an average of a background brightness map of the low rank matrix, which is a background image, using Equation (1) below.
[Equation 1]
Figure 112016108115579-pat00051

Here, n is the number of input images, Ri is the estimated brightness value at the i pixel position, and a constant value varying from j = 1 to integer n.
제1항에 있어서,
상기 영상 분리부는 상기 저 랭크 행렬의 랭크 함수와 상기 희소 행렬을 truncated nuclear norm
Figure 112016108115579-pat00052
Figure 112016108115579-pat00053
으로 근사화하여 다시 작성하면 하기의 수학식 2와 같이 표현되고, 여유 변수 행렬 S를 상기 수학식 2에 적용하여 다시 작성하면 하기의 수학식 3과 같이 표현하여 상기 저 랭크 행렬과 상기 희소 행렬, 여유 변수 행렬을 최적화하여 분리하는 것을 특징으로 하는 영상 처리 장치.
[수학식 2]
Figure 112016108115579-pat00054

여기서,
Figure 112016108115579-pat00055
는 행렬 X의 truncated nuclear norm을 나타내고, λ는 상기 저 랭크 행렬(X)의 Rank와 상기 희소 행렬(E)의 희소성 사이의 상대적 중요성을 조절하는 인자이고, 타겟 랭크(Target Rank) r은 1로 설정하고,
Figure 112016108115579-pat00056
는 측정 영역
Figure 112016108115579-pat00057
에서의 샘플링 연산자,
Figure 112016108115579-pat00058
는 상기 희소 행렬의 L1 norm을 나타냄.
[수학식 3]
Figure 112016108115579-pat00059

여기서, S는 상기 여유 변수 행렬,
Figure 112016108115579-pat00060
는 행렬의 프로베니어스 놈(Frobenius norm)이고, δ는 데이터 취득 과정에서 발생하는 잡음의 세기임.
The method according to claim 1,
Wherein the image separator divides the rank function of the low rank matrix and the sparse matrix into a truncated nuclear norm
Figure 112016108115579-pat00052
And
Figure 112016108115579-pat00053
And the remainder variable matrix S is rewritten by applying Equation (2) to Equation (3), the low rank matrix, the rare matrix, the allowance And the variable matrix is optimized and separated.
&Quot; (2) &quot;
Figure 112016108115579-pat00054

here,
Figure 112016108115579-pat00055
Lambda is a factor controlling the relative importance between the Rank of the low rank matrix X and the scarcity of the sparse matrix E and the target rank r is 1 Setting,
Figure 112016108115579-pat00056
Lt; / RTI &
Figure 112016108115579-pat00057
The sampling operator at,
Figure 112016108115579-pat00058
Represents the L1 norm of the sparse matrix.
&Quot; (3) &quot;
Figure 112016108115579-pat00059

Where S is the allowance variable matrix,
Figure 112016108115579-pat00060
Is the Frobenius norm of the matrix, and [delta] is the intensity of the noise occurring during the data acquisition.
제3항에 있어서,
상기 영상 분리부는 상기 수학식 3에 대한 라그랑지안 비용 함수(Augmented Lagrangian Function)로 정의하면 하기의 수학식 4와 같이 표현되어 상기 저 랭크 행렬, 상기 희소 행렬과 상기 여유 변수 행렬을 최적으로 분리하는데 이용하는 것을 특징으로 하는 영상 처리 장치.
[수학식 4]
Figure 112016108115579-pat00061

여기서, Λ는 라그랑지 멀티플라이어 행렬, μ는 불이익변수, <A, B> = tr(ABT)는 두 행렬의 내적연산(matrix inner product)을 나타냄.
The method of claim 3,
The image separator may be expressed as Equation (4), and may be used to optimally separate the low rank matrix, the sparse matrix, and the allowable variable matrix, expressed as Equation (4) below, defined as augmented Lagrangian function of Equation The image processing apparatus characterized in.
&Quot; (4) &quot;
Figure 112016108115579-pat00061

Where A is a Lagrangian multiplier matrix, μ is a disadvantage variable, and A, B> = tr (AB T ) represent matrix inner products of two matrices.
제4항에 있어서,
상기 영상 분리부는 상기 수학식 4의 상기 저 랭크 행렬, 상기 희소 행렬과 상기 여유 변수 행렬, 상기 라그랑지 멀티플라이어를 순차적으로 최적화를 통해서 업데이트하여 다시 작성하면 하기의 수학식 5, 수학식 6과 같이 표현되며, 라그랑지 멀티플라이어가 적용된 라그랑지안 비용 함수를 이용하여 비용 함수의 해를 구하는 방법인 ALM(Augmented Lagrange Multiplier) 방법을 사용하여 비용 함수를 최소화 또는 일정한 범위 이내로 수렴하게 하는 상기 저 랭크 행렬, 상기 희소 행렬과 상기 여유 변수 행렬을 산출하는 것을 특징으로 하는 영상 처리 장치.
[수학식 5]
Figure 112016108115579-pat00062

여기서, k는 몇번째 반복에 해당하는 Index를 나타냄.
[수학식 6]
Figure 112016108115579-pat00063
5. The method of claim 4,
The image separation unit may sequentially update the low rank matrix, the sparse matrix and the redundant variable matrix, and the Lagrangian multiplier of Equation (4) sequentially through optimization and rewrite them as shown in Equations (5) and Rank matrix that minimizes the cost function or converges within a certain range by using an Augmented Lagrange Multiplier (ALM) method, which is a method of finding a solution of a cost function using a Lagrangian cost function to which Lagrangian multiplier is applied, And calculates the sparse matrix and the extra variable matrix.
&Quot; (5) &quot;
Figure 112016108115579-pat00062

Here, k represents an index corresponding to a repetition number of times.
&Quot; (6) &quot;
Figure 112016108115579-pat00063
배경과 객체를 분리하고자 하는 대상 영상을 입력받아 상기 대상 영상의 화소들의 영상 신호값에 따른 행렬인 대상 영상 행렬을 생성하는 대상 영상 행렬 생성부; 및
상기 대상 영상 행렬을 일정한 기준보다 작은 랭크(Rank) 값을 가지는 저 랭크 행렬(Low Rank Matrix)을 설정하고, 상기 저 랭크 행렬과 여유 변수 행렬(Slack Variable)의 합으로 제한조건을 설정하며, 상기 저 랭크 행렬과 상기 여유 변수 행렬에 대한 라그랑지 멀티플라이어가 적용된 라그랑지안 비용 함수를 이용하여 제1 비용 함수의 해를 구하는 ALM(Augmented Lagrange Multiplier) 방법을 사용하여 상수 제1 비용 함수를 최소화 또는 일정한 범위 이내로 수렴하게 하여 상기 저 랭크 행렬, 상기 여유 변수 행렬을 산출하는 TNNM(Truncated Nuclear Norm Minimization)-ALM(Augmented Lagrange Multiplier) 알고리즘을 생성하는 최적화 알고리즘부를 포함하는 것을 특징으로 하는 영상 처리 장치.
An object image matrix generation unit that receives a target image to be separated from a background and an object and generates a target image matrix that is a matrix according to image signal values of pixels of the target image; And
Sets a low rank matrix having a rank value smaller than a certain reference as the target image matrix and sets a constraint condition as a sum of the low rank matrix and a slack variable matrix, A constant first cost function can be minimized or a constant range can be minimized by using an augmented Lagrange Multiplier (ALM) method for obtaining a solution of a first cost function using a low rank matrix and a Lagrangian cost function applied with a Lagrangian multiplier for the extra variable matrix And an optimization algorithm unit for generating a TNMM (Augmented Lagrange Multiplier) algorithm for calculating the low rank matrix and the allowable variable matrix by causing the low rank matrix to converge within a predetermined range.
제6항에 있어서,
상기 생성한 TNNM-ALM 알고리즘을 활용하여 상기 대상 영상 행렬에서 상기 저 랭크 행렬 성분을 제외한 나머지를 희소 행렬(Sparse Matrix)로 설정하고, 상기 저 랭크 행렬에 대한 Truncated Nuclear Norm 연산 값과 상기 희소 행렬에 대한 L1 놈(Norm) 연산 값에 상기 저 랭크 행렬과 상기 희소 행렬 사이의 상대적 중요성을 조절하는 인자를 적용한 가중합을 제2 비용 함수로 설정하며, 상기 제2 비용 함수를 이용하여 상기 저 랭크 행렬, 상기 희소 행렬 및 상기 여유 변수 행렬을 산출하는 영상 분리부를 포함하는 것을 특징으로 하는 영상 처리 장치.
The method according to claim 6,
The remaining TNMM-ALM algorithm is used to set the remainder excluding the low rank matrix component in the target image matrix to a sparse matrix, and a truncated Nuclear Norm computed value for the low rank matrix and a Rank matrix and the sparse matrix is applied to an Ll norm calculation value for the low-rank matrix and a low-rank matrix using the second cost function, And an image separator for calculating the sparse matrix and the freeness matrix.
제6항에 있어서,
상기 최적화 알고리즘부는 상기 저 랭크 행렬과 상기 여유 변수 행렬을 truncated nuclear norm
Figure 112016108115579-pat00064
에 의해 랭크 함수를 근사화하여 다시 작성하면 하기의 수학식 1과 같이 표현되는 것을 특징으로 하는 영상 처리 장치.
[수학식 1]
Figure 112016108115579-pat00065

여기서,
Figure 112016108115579-pat00066
는 행렬 X의 truncated nuclear norm을 나타내고,
Figure 112016108115579-pat00067
는 측정 영역
Figure 112016108115579-pat00068
에서의 샘플링 연산자, S는 상기 여유 변수 행렬,
Figure 112016108115579-pat00069
는 행렬의 프로베니어스 놈(Frobenius norm)이고, δ는 데이터 취득 과정에서 발생하는 잡음의 세기임.
The method according to claim 6,
Wherein the optimization algorithm unit divides the low rank matrix and the extra variable matrix into a truncated nuclear norm
Figure 112016108115579-pat00064
And the rank function is approximated and rewritten by the following equation (1): &quot; (1) &quot;
[Equation 1]
Figure 112016108115579-pat00065

here,
Figure 112016108115579-pat00066
Represents the truncated nuclear norm of the matrix X,
Figure 112016108115579-pat00067
Lt; / RTI &
Figure 112016108115579-pat00068
S is a sampling operator at the above-mentioned spare variable matrix,
Figure 112016108115579-pat00069
Is the Frobenius norm of the matrix, and [delta] is the intensity of the noise occurring during the data acquisition.
제8항에 있어서,
상기 최적화 알고리즘부는 상기 수학식 1을 라그랑지안 비용 함수(Augmented Lagrangian Function)로 정의하면 하기의 수학식 2와 같이 표현되어 상기 저 랭크 행렬, 상기 여유 변수 행렬을 최적으로 분리하는데 이용하는 것을 특징으로 하는 영상 처리 장치.
[수학식 2]
Figure 112016108115579-pat00070

여기서, Λ는 라그랑지 멀티플라이어 행렬, μ는 불이익변수, <A, B> = tr(ABT)는 두 행렬의 내적연산(matrix inner product)을 나타냄.
9. The method of claim 8,
The optimization algorithm unit may be expressed as Equation (2), and may be used to optimally separate the low rank matrix and the redundant variable matrix, if Equation (1) is defined as a Augmented Lagrangian Function. Device.
&Quot; (2) &quot;
Figure 112016108115579-pat00070

Where A is a Lagrangian multiplier matrix, μ is a disadvantage variable, and A, B> = tr (AB T ) represent matrix inner products of two matrices.
제9항에 있어서,
상기 최적화 알고리즘부는 상기 수학식 2에서 ALM(Augmented Lagrange Multiplier) 알고리즘을 수렴할 때까지 적용하여 라그랑지 멀티플라이어 행렬(Λ)를 예측하고, 상기 예측된 Λ에 대해서 비용 함수의 최소화하면 하기의 수학식 3과 수학식 4와 같이 표현되며 상기 비용 함수를 최소화 또는 일정한 범위 이내로 수렴하게 하는 상기 저 랭크 행렬, 상기 여유 변수 행렬을 산출하는 것을 특징으로 하는 영상 처리 장치.
[수학식 3]
Figure 112016108115579-pat00071

[수학식 4]
Figure 112016108115579-pat00072
10. The method of claim 9,
The optimization algorithm unit predicts the Lagrangian multiplier matrix A by applying an Augmented Lagrange Multiplier (ALM) algorithm until convergence in Equation (2), minimizes the cost function for the predicted Λ, 3 and Equation (4), and calculates the low rank matrix and the extra variable matrix to minimize the cost function or to converge the cost function within a predetermined range.
&Quot; (3) &quot;
Figure 112016108115579-pat00071

&Quot; (4) &quot;
Figure 112016108115579-pat00072
제7항에 있어서,
상기 영상 분리부는 상기 저 랭크 행렬의 랭크 함수와 상기 희소 행렬을 truncated nuclear norm
Figure 112016108115579-pat00073
Figure 112016108115579-pat00074
으로 근사화하여 다시 작성하면 하기의 수학식 5와 같이 표현되고, 여유 변수 행렬 S를 상기 수학식 5에 적용하여 다시 작성하면 하기의 수학식 6과 같이 표현하여 상기 저 랭크 행렬과 상기 희소 행렬, 여유 변수 행렬을 최적화하여 분리하는 것을 특징으로 하는 영상 처리 장치.
[수학식 5]
Figure 112016108115579-pat00075

여기서,
Figure 112016108115579-pat00076
는 행렬 X의 truncated nuclear norm을 나타내고, λ는 상기 저 랭크 행렬(X)의 Rank와 상기 희소 행렬(E)의 희소성 사이의 상대적 중요성을 조절하는 인자이고, 타겟 랭크(Target Rank) r은 1로 설정하고,
Figure 112016108115579-pat00077
는 측정 영역
Figure 112016108115579-pat00078
에서의 샘플링 연산자,
Figure 112016108115579-pat00079
는 상기 희소 행렬의 L1 norm을 나타냄.
[수학식 6]
Figure 112016108115579-pat00080

여기서, S는 상기 여유 변수 행렬,
Figure 112016108115579-pat00081
는 행렬의 프로베니어스 놈(Frobenius norm)이고, δ는 데이터 취득 과정에서 발생하는 잡음의 세기임.
8. The method of claim 7,
Wherein the image separator divides the rank function of the low rank matrix and the sparse matrix into a truncated nuclear norm
Figure 112016108115579-pat00073
And
Figure 112016108115579-pat00074
And the remainder variable matrix S is rewritten by applying Equation (5) to Equation (6), the low rank matrix and the rare matrix, the allowance And the variable matrix is optimized and separated.
&Quot; (5) &quot;
Figure 112016108115579-pat00075

here,
Figure 112016108115579-pat00076
Lambda is a factor controlling the relative importance between the Rank of the low rank matrix X and the scarcity of the sparse matrix E and the target rank r is 1 Setting,
Figure 112016108115579-pat00077
Lt; / RTI &
Figure 112016108115579-pat00078
The sampling operator at,
Figure 112016108115579-pat00079
Represents the L1 norm of the sparse matrix.
&Quot; (6) &quot;
Figure 112016108115579-pat00080

Where S is the allowance variable matrix,
Figure 112016108115579-pat00081
Is the Frobenius norm of the matrix, and [delta] is the intensity of the noise occurring during the data acquisition.
KR1020160146815A 2016-11-04 2016-11-04 Apparatus for Processing High Dynamic Range Imaging KR101740647B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020160146815A KR101740647B1 (en) 2016-11-04 2016-11-04 Apparatus for Processing High Dynamic Range Imaging

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020160146815A KR101740647B1 (en) 2016-11-04 2016-11-04 Apparatus for Processing High Dynamic Range Imaging

Publications (1)

Publication Number Publication Date
KR101740647B1 true KR101740647B1 (en) 2017-06-08

Family

ID=59221235

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020160146815A KR101740647B1 (en) 2016-11-04 2016-11-04 Apparatus for Processing High Dynamic Range Imaging

Country Status (1)

Country Link
KR (1) KR101740647B1 (en)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109325446A (en) * 2018-09-19 2019-02-12 电子科技大学 A kind of method for detecting infrared puniness target based on weighting truncation nuclear norm
KR20190067721A (en) * 2017-12-07 2019-06-17 한국과학기술원 Matrix Sparsificating Method and System in Distributed Computing System
CN112924349A (en) * 2021-01-27 2021-06-08 安徽优思天成智能科技有限公司 Diesel vehicle image smoke intensity detection method and system
CN113870130A (en) * 2021-09-16 2021-12-31 西安理工大学 Low-rank tensor completion method based on three-dimensional total variation and Tucker decomposition
CN117333681A (en) * 2023-09-26 2024-01-02 中国科学院国家空间科学中心 Hyperspectral abnormal target detection method and system based on weighted sparsity

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015213234A (en) 2014-05-02 2015-11-26 日本放送協会 Pseudo hdr image estimation device and method

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015213234A (en) 2014-05-02 2015-11-26 日本放送協会 Pseudo hdr image estimation device and method

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190067721A (en) * 2017-12-07 2019-06-17 한국과학기술원 Matrix Sparsificating Method and System in Distributed Computing System
KR102192560B1 (en) 2017-12-07 2020-12-17 한국과학기술원 Matrix Sparsificating Method and System in Distributed Computing System
CN109325446A (en) * 2018-09-19 2019-02-12 电子科技大学 A kind of method for detecting infrared puniness target based on weighting truncation nuclear norm
CN109325446B (en) * 2018-09-19 2021-06-22 电子科技大学 Infrared weak and small target detection method based on weighted truncation nuclear norm
CN112924349A (en) * 2021-01-27 2021-06-08 安徽优思天成智能科技有限公司 Diesel vehicle image smoke intensity detection method and system
CN113870130A (en) * 2021-09-16 2021-12-31 西安理工大学 Low-rank tensor completion method based on three-dimensional total variation and Tucker decomposition
CN113870130B (en) * 2021-09-16 2024-02-06 西安理工大学 Low-rank tensor completion method based on three-dimensional total variation and Tucker decomposition
CN117333681A (en) * 2023-09-26 2024-01-02 中国科学院国家空间科学中心 Hyperspectral abnormal target detection method and system based on weighted sparsity
CN117333681B (en) * 2023-09-26 2024-05-14 中国科学院国家空间科学中心 Hyperspectral abnormal target detection method and system based on weighted sparsity

Similar Documents

Publication Publication Date Title
KR101740647B1 (en) Apparatus for Processing High Dynamic Range Imaging
US20240169483A1 (en) Systems and Methods for Synthesizing High Resolution Images Using Images Captured by an Array of Independently Controllable Imagers
CN109791688B (en) Exposure dependent luminance conversion
JP6489551B2 (en) Method and system for separating foreground from background in a sequence of images
EP4198875A1 (en) Image fusion method, and training method and apparatus for image fusion model
CN106373105B (en) Multi-exposure image artifact removing fusion method based on low-rank matrix recovery
CN111835983B (en) Multi-exposure-image high-dynamic-range imaging method and system based on generation countermeasure network
US20050259870A1 (en) Image processing apparatus and method, and image pickup apparatus
US7130464B2 (en) Image processing device
US9299011B2 (en) Signal processing apparatus, signal processing method, output apparatus, output method, and program for learning and restoring signals with sparse coefficients
CN113689539B (en) Dynamic scene real-time three-dimensional reconstruction method based on implicit optical flow field
US7024050B2 (en) Image processing apparatus
CN112884682A (en) Stereo image color correction method and system based on matching and fusion
CN109461122B (en) Compressed sensing image reconstruction method based on multi-viewpoint images
US20180061083A1 (en) System and method for calculating image similarity and recording medium
KR102192016B1 (en) Method and Apparatus for Image Adjustment Based on Semantics-Aware
WO2001030067A1 (en) An apparatus for and method of estimating the illumination of an image
US7352917B2 (en) Image processing apparatus and method, and image pickup apparatus
Cheng et al. Semantic single-image dehazing
JP7482232B2 (en) Deep Loop Filters with Time-warpable Convolution
JP2012238932A (en) 3d automatic color correction device and color correction method and color correction program
US20230132230A1 (en) Efficient Video Execution Method and System
JP6826277B2 (en) Image processing system, image processing method, and image processing program
Shuang et al. Algorithms for improving the quality of underwater optical images: A comprehensive review
CN115699073A (en) Neural network supported camera image or video processing pipeline

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant