KR101299250B1 - Apparatus and method for digital picturing image - Google Patents
Apparatus and method for digital picturing image Download PDFInfo
- Publication number
- KR101299250B1 KR101299250B1 KR1020080096706A KR20080096706A KR101299250B1 KR 101299250 B1 KR101299250 B1 KR 101299250B1 KR 1020080096706 A KR1020080096706 A KR 1020080096706A KR 20080096706 A KR20080096706 A KR 20080096706A KR 101299250 B1 KR101299250 B1 KR 101299250B1
- Authority
- KR
- South Korea
- Prior art keywords
- luminance component
- input
- gamma correction
- image
- high frequency
- Prior art date
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/14—Picture signal circuitry for video frequency region
- H04N5/20—Circuitry for controlling amplitude response
- H04N5/202—Gamma control
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/44—Receiver circuitry for the reception of television signals according to analogue transmission standards
- H04N5/57—Control of contrast or brightness
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Facsimile Image Signal Circuits (AREA)
- Image Processing (AREA)
- Picture Signal Circuits (AREA)
Abstract
본 발명은 디지털 영상 처리 장치 및 그 제어 방법에 관한 것으로, 상세하게는 3차원 감마 보정을 통해 컨트라스트가 개선된 디지털 영상 처리 장치 및 그 제어 방법에 관한 것이다. BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a digital image processing apparatus and a control method thereof, and more particularly, to a digital image processing apparatus and a control method thereof having improved contrast through three-dimensional gamma correction.
본 발명은 3차원 감마 보정 테이블을 생성하는 감마 테이블 생성부; 및 상기 감마 테이블 생성부에 의하여 생성된 상기 3차원 감마 보정 테이블에 의해 영상 파일의 입력 휘도 성분(Yin)을 출력 휘도 성분(Yout)으로 보정하는 컨트라스트 보정부를 포함하는 디지털 영상 처리 장치를 제공한다. The present invention provides a gamma table generator for generating a three-dimensional gamma correction table; And a contrast correction unit configured to correct an input luminance component (Y in ) of an image file to an output luminance component (Y out ) by the three-dimensional gamma correction table generated by the gamma table generator. do.
Description
본 발명은 디지털 영상 처리 장치 및 그 제어 방법에 관한 것으로, 상세하게는 3차원 감마 보정을 통해 컨트라스트가 개선된 디지털 영상 처리 장치 및 그 제어 방법에 관한 것이다. BACKGROUND OF THE
통상적으로 디지털 영상 처리 장치란, 디지털 카메라, PDA(personal digital assistant), 폰 카메라, PC 카메라 등의 영상을 처리하거나 동작 인식 센서를 사용하는 모든 장치를 포함한다. 이러한 디지털 영상 처리 장치는 원하는 영상을 촬상 소자를 통하여 입력받고, 입력된 영상을 영상 표시소자에 표시하여 보여주고, 사용자의 촬영 선택에 의하여 영상을 이미지 파일로 저장하고, 저장된 이미지 파일을 프린트한다. Typically, the digital image processing apparatus includes all devices that process images of a digital camera, a PDA (personal digital assistant), a phone camera, a PC camera, or the like, or use motion recognition sensors. Such a digital image processing apparatus receives a desired image through an image pickup device, displays the input image on an image display device, displays the image on an image display device, stores the image as an image file by user's selection, and prints the stored image file.
이와 같은 디지털 영상 처리 장치에 사용되는 촬상소자는 노출시간이나 조리개를 완벽하게 조절하였다 하더라도, 사람의 눈과는 달리 한번에 받아들일 수 있는 광원의 양이 제한적이므로, 역광과 같이 명부와 암부의 광량 차이가 많이 나는 영상을 촬영하는 경우, 어느 한 영역의 세부 정보가 잘 표현되지 않는, 즉 컨트라스 트(contrast)가 낮은 영상을 얻게 된다. 이 경우, 세부 정보가 잘 표현되지 않는 영역의 컨트라스트를 개선하는 작업을 컨트라스트 개선/향상이라 부르며, 이러한 작업은 역광으로 촬영된 영상의 화질을 개선하는 데에도 사용되므로 이 경우 역광 보정(back-light compensation)이라고도 부른다. The imaging device used in such a digital image processing device has a limited amount of light sources that can be received at one time, unlike the human eye, even if the exposure time or aperture is perfectly adjusted. If you take a lot of images, you will get a low contrast image, which means that the details of one region are not well represented. In this case, the task of improving the contrast in areas where details are hardly represented is called contrast enhancement / enhancement, which is also used to improve the image quality of images shot with backlighting. Also called compensation.
이와 같이 컨트라스트를 개선하는 방법으로는 입력 영상의 휘도 성분과 나머지 성분을 분리하고 이 휘도 성분을 감마 보정(gamma correction)하는 방법과, 히스토그램 평활화(histogram equalization)를 응용하는 방법 등이 사용되었다. As a method of improving the contrast, a method of separating the luminance component and the remaining components of the input image, gamma correction of the luminance component, and applying a histogram equalization method are used.
도 1은 종래의 감마 보정 전달 함수를 나타내는 도면이다. 1 is a diagram illustrating a conventional gamma correction transfer function.
도 1을 참조하면, 감마 보정은 아래의 수학식 1을 바탕으로 감마값의 조절을 통하여 영상의 밝기를 조절함으로써 컨트라스트를 개선하는 방식이다. Referring to FIG. 1, gamma correction is a method of improving contrast by adjusting a brightness of an image by adjusting a gamma value based on
여기서, Yin은 입력 영상의 휘도 값이고, Yout은 출력 영상의 휘도값이다. 그런데, 이와 같은 전달 함수를 사용하여 감마 보정을 수행할 경우, 암부의 세부 정보를 잘 보이게 하기 위하여 감마(Γ)값을 1보다 작게 하면 명부의 세부 정보가 손실되고, 반대로 명부의 세부 정보를 잘 보이게 하기 위하여 감마(Γ)값을 1보다 크게 하면 암부의 세부 정보가 손실되는 문제점이 존재하였다. Here, Y in is a luminance value of the input image, and Y out is a luminance value of the output image. However, when performing gamma correction using such a transfer function, if the gamma (Γ) value is smaller than 1 in order to make the details of the dark part visible, the details of the list are lost. In order to make the gamma (Γ) value larger than 1, there was a problem in that the details of the dark part were lost.
즉, 도 2a와 같은 원본 영상에서 명부(10a)의 세부 정보를 잘 보이게 하기 위하여 감마(Γ)값을 1보다 크게 하여 감마 보정을 수행하면, 도 2b와 같이 명 부(10b)는 더 명확하게 보이지만, 그만큼 암부(20b)는 더 어두워지게 영상의 식별이 어렵게 된다. 반대로, 도 2a와 같은 원본 영상에서 암부(20a)의 세부 정보를 잘 보이게 하기 위하여 감마(Γ)값을 1보다 작게 하여 감마 보정을 수행하면, 도 2c와 같이 암부(20c)는 원본보다 밝아져서 영상의 식별이 용이해지지만, 그만큼 명부(10c)는 어둡게 되어 영상의 식별이 어렵게 된다. That is, when gamma correction is performed with a gamma (Γ) value greater than 1 in order to make the detailed information of the
이와 같은 감마보정의 단점을 보완하기 위하여 입력 영상의 휘도 성분을 여러 범위로 구분하여, 각각의 범위에 서로 다른 감마(Γ)값을 적용하는 "복수의 감마보정(multiple correction)" 방법이 제안되었으나, 이 방법에서는 변곡점 부근의 휘도 성분의 경우 곡선의 선형성으로 인하여 표현 범위가 감소하므로 컨트라스트가 감소한다는 문제점이 존재하였다. In order to make up for the shortcomings of gamma correction, a "multiple correction" method is proposed in which luminance components of an input image are divided into various ranges and different gamma (Γ) values are applied to each range. In this method, there is a problem that the contrast is reduced because the luminance range near the inflection point is reduced due to the linearity of the curve.
또한, 감마보정의 단점을 보완하기 위한 다른 방법으로 아래의 수학식 2에 기초하는 "비선형 맵핑(non-linear mapping)"과 같은 방법도 제안되었다. In addition, a method such as "non-linear mapping" based on Equation 2 below has also been proposed as another method to compensate for the disadvantage of gamma correction.
여기서, T를 전달 함수(transfer function)이라고 부르며, 이는 비선형 곡선이다. 이 방식의 경우, 몇 개의 변곡점이 설정되면 입력 영상의 휘도 성분이 높은 값이 결과 영상에서도 높은 휘도 값을 가진다는 제한 조건 하에서 비선형 전달 함수를 생성한 후, 이를 통하여 휘도 성분을 조절함으로써 컨트라스트를 보정한다. 그러나, 이 방법의 경우에도 변곡점 부근의 표현 범위가 감소하므로 컨트라스트가 감소한다는 문제점이 여전히 존재하였다. Here, T is called the transfer function, which is a nonlinear curve. In this method, if a few inflection points are set, a nonlinear transfer function is generated under the constraint that the high luminance component of the input image has a high luminance value in the resultant image, and then the contrast is adjusted by adjusting the luminance component. do. However, even in this method, there is still a problem that the contrast is reduced because the expression range near the inflection point is reduced.
본 발명은 컨트라스트가 개선되고, 변곡점 부근에서의 표현 범위의 감소가 개선된 디지털 영상 처리 장치 및 그 제어 방법을 제공하는 것을 목적으로 한다. It is an object of the present invention to provide a digital image processing apparatus and a control method thereof in which the contrast is improved and the reduction of the expression range near the inflection point is improved.
본 발명은 3차원 감마 보정 테이블을 생성하는 감마 테이블 생성부; 및 상기 감마 테이블 생성부에 의하여 생성된 상기 3차원 감마 보정 테이블에 의해 영상 파일의 입력 휘도 성분(Yin)을 출력 휘도 성분(Yout)으로 보정하는 컨트라스트 보정부를 포함하는 디지털 영상 처리 장치를 제공한다. The present invention provides a gamma table generator for generating a three-dimensional gamma correction table; And a contrast correction unit configured to correct an input luminance component (Y in ) of an image file to an output luminance component (Y out ) by the three-dimensional gamma correction table generated by the gamma table generator. do.
본 발명에 있어서, 상기 감마 테이블 생성부는, 상기 디지털 영상 처리 장치의 각 화소와 그 주변 화소들과의 상관 관계에 따라 상기 3차원 감마 보정 테이블을 생성할 수 있다. The gamma table generator may generate the three-dimensional gamma correction table according to a correlation between each pixel of the digital image processing apparatus and neighboring pixels.
본 발명에 있어서, 상기 3차원 감마 보정 테이블의 세 축은 각각 상기 입력 휘도 성분(Yin), 상기 입력 휘도 성분과 그 주변 화소들과의 상관 관계(Yrelation) 및 상기 출력 휘도 성분(Yout)을 나타낼 수 있다. In the present invention, the three axes of the three-dimensional gamma correction table are the input luminance component (Y in ), the correlation (Y relation ) between the input luminance component and its surrounding pixels, and the output luminance component (Y out ), respectively. Can be represented.
본 발명에 있어서, 상기 입력 휘도 성분과 상기 출력 휘도 성분은 1:다 대응 관계를 이룰 수 있다. In the present invention, the input luminance component and the output luminance component may have a 1: 1 correspondence relationship.
본 발명에 있어서, 상기 감마 테이블 생성부는, 상기 영상 파일로부터 상기 입력 휘도 성분을 추출하는 휘도 성분 추출부; 각 화소의 입력 휘도 성분과, 상기 각 화소의 주변 화소들의 입력 휘도 성분들 사이의 상관 관계(Yrelation)를 정의하는 주변 관계 정의부; 및 상기 상관 관계를 이용하여 상기 3차원 감마 보정을 위한 전달 함수(transfer function)를 생성하는 전달 함수 생성부를 포함할 수 있다. The gamma table generator may include: a luminance component extractor configured to extract the input luminance component from the image file; A peripheral relationship definition unit defining a correlation (Y relation ) between an input luminance component of each pixel and input luminance components of peripheral pixels of each pixel; And a transfer function generator for generating a transfer function for the 3D gamma correction using the correlation.
여기서, 상기 각 화소의 입력 휘도 성분과, 상기 각 화소의 주변 화소들의 입력 휘도 성분들 사이의 상관 관계(Yrelation)는, 상기 각 화소의 입력 휘도 성분 및 상기 각 화소의 주변 화소들의 입력 휘도 성분들에 소정의 가중치를 연산하여 정의될 수 있다. Here, the Y relation between the input luminance component of each pixel and the input luminance components of the peripheral pixels of each pixel may include an input luminance component of each pixel and an input luminance component of the peripheral pixels of each pixel. Can be defined by calculating a predetermined weight.
여기서, 상기 전달 함수는, 상기 각 화소의 입력 휘도 성분과, 상기 상관 관계를 함께 고려하여 출력 휘도 성분을 산출할 수 있다. Here, the transfer function may calculate an output luminance component in consideration of the input luminance component of each pixel and the correlation.
여기서, 상기 감마 테이블 생성부는, 상기 입력 영상에서 에지(edge)와 같은 고주파 성분을 복원하기 위한 고주파 성분 복원 계수를 결정하는 고주파 성분 복원 계수 결정부를 더 포함할 수 있다. The gamma table generator may further include a high frequency component recovery coefficient determiner configured to determine a high frequency component recovery coefficient for restoring a high frequency component such as an edge in the input image.
여기서, 상기 고주파 성분 복원 계수 결정부에 의해 생성된 고주파 성분 복원 함수가 상기 전달 함수에 더하여질 수 있다. Here, the high frequency component recovery function generated by the high frequency component recovery coefficient determiner may be added to the transfer function.
여기서, 상기 컨트라스트 보정부는, 상기 전달 함수(transfer function)를 통해 입력 영상의 휘도 성분을 보정하여 출력 영상의 밝기를 조절하는 밝기 보정부를 포함할 수 있다. The contrast corrector may include a brightness corrector that adjusts brightness of an output image by correcting a luminance component of an input image through the transfer function.
여기서, 상기 컨트라스트 보정부는, 상기 고주파 성분 복원 계수 결정부에 의해 생성된 고주파 성분 복원 함수를 이용하여 상기 입력 영상에서 에지(edge)와 같은 고주파 성분을 복원하는 고주파 성분 복원부를 더 포함할 수 있다. The contrast correction unit may further include a high frequency component restoration unit for restoring a high frequency component such as an edge in the input image by using the high frequency component restoration function generated by the high frequency component restoration coefficient determiner.
본 발명에 있어서, 상기 디지털 영상 처리 장치는 상기 입력 휘도 성분과 상기 출력 휘도 성분 간의 차이에 따라, 감소된 입력 영상의 색상의 채도를 보정하는 채도 보정부를 더 포함할 수 있다. The digital image processing apparatus may further include a saturation correction unit configured to correct saturation of the color of the reduced input image according to a difference between the input luminance component and the output luminance component.
다른 측면에 관한 본 발명은, 3차원 감마 보정 테이블을 생성하는 단계; 및 상기 생성된 3차원 감마 보정 테이블에 의해 영상 파일의 입력 휘도 성분(Yin)을 출력 휘도 성분(Yout)으로 보정하는 단계를 포함하는 디지털 영상 처리 장치의 제어 방법을 제공한다. According to another aspect of the present invention, there is provided a method including generating a three-dimensional gamma correction table; And correcting the input luminance component (Y in ) of the image file with the output luminance component (Y out ) by using the generated three-dimensional gamma correction table.
본 발명에 있어서, 상기 3차원 감마 보정 테이블을 생성하는 단계는, 상기 디지털 영상 처리 장치의 각 화소와 그 주변 화소들과의 상관 관계에 따라 상기 3차원 감마 보정 테이블을 생성할 수 있다. In the present invention, generating the three-dimensional gamma correction table may generate the three-dimensional gamma correction table according to a correlation between each pixel of the digital image processing apparatus and its neighboring pixels.
본 발명에 있어서, 상기 생성된 3차원 감마 보정 테이블의 세 축은 각각 상기 입력 휘도 성분(Yin), 상기 입력 휘도 성분과 그 주변 화소들과의 상관 관계(Yrelation) 및 상기 출력 휘도 성분(Yout)을 나타낼 있다. In the present invention, the three axes of the generated three-dimensional gamma correction table are respectively the input luminance component (Y in ), the correlation (Y relation ) between the input luminance component and its surrounding pixels, and the output luminance component (Y). out )
본 발명에 있어서, 상기 입력 휘도 성분과 상기 출력 휘도 성분은 1:다 대응 관계를 이룰 수 있다. In the present invention, the input luminance component and the output luminance component may have a 1: 1 correspondence relationship.
본 발명에 있어서, 상기 3차원 감마 보정 테이블을 생성하는 단계는, 상기 영상 파일로부터 상기 입력 휘도 성분을 추출하는 단계; 각 화소의 입력 휘도 성분 과, 상기 각 화소의 주변 화소들의 입력 휘도 성분들 사이의 상관 관계(Yrelation)를 정의하는 단계; 및 상기 상관 관계를 이용하여 상기 3차원 감마 보정을 위한 전달 함수(transfer function)를 생성하는 단계를 포함할 수 있다. In the present invention, the generating of the 3D gamma correction table may include: extracting the input luminance component from the image file; Defining a Y relation between an input luminance component of each pixel and input luminance components of peripheral pixels of each pixel; And generating a transfer function for the 3D gamma correction using the correlation.
여기서, 상기 상관 관계(Yrelation)를 정의하는 단계는, 상기 각 화소의 입력 휘도 성분 및 상기 각 화소의 주변 화소들의 입력 휘도 성분들에 소정의 가중치를 연산하여 정의될 수 있다. The defining of the Y relation may be defined by calculating a predetermined weight on an input luminance component of each pixel and input luminance components of peripheral pixels of each pixel.
여기서, 상기 전달 함수(transfer function)를 생성하는 단계는, 각 화소의 입력 휘도 성분과, 상기 상관 관계를 함께 고려하여 출력 휘도 성분을 산출할 수 있다. In the generating of the transfer function, the output luminance component may be calculated in consideration of the input luminance component of each pixel and the correlation.
여기서, 상기 입력 영상에서 에지(edge)와 같은 고주파 성분을 복원하기 위한 고주파 성분 복원 계수를 결정하는 단계를 더 포함하고, 상기 고주파 성분 복원 계수에 의하여 생성된 고주파 성분 복원 함수가 상기 전달 함수에 더해질 수 있다. The method may further include determining a high frequency component reconstruction coefficient for reconstructing a high frequency component such as an edge in the input image, wherein a high frequency component reconstruction function generated by the high frequency component reconstruction coefficient is added to the transfer function. Can be.
여기서, 상기 생성된 3차원 감마 보정 테이블에 의해 영상 파일의 입력 휘도 성분(Yin)을 보정하여 출력 휘도 성분(Yout)으로 변환하는 단계는, 상기 전달 함수(transfer function)를 통해 입력 영상의 휘도 성분을 보정하여 출력 영상의 밝기를 조절하는 단계를 포함할 수 있다. Here, the step of correcting the input luminance component (Y in ) of the image file by using the generated three-dimensional gamma correction table and converting the output luminance component (Y out ) into the output luminance component (Y out ) may be performed by the transfer function. The method may include adjusting the brightness of the output image by correcting the luminance component.
여기서, 상기 생성된 3차원 감마 보정 테이블에 의해 영상 파일의 입력 휘도 성분(Yin)을 보정하여 출력 휘도 성분(Yout)으로 변환하는 단계는, 상기 생성된 고주파 성분 복원 함수를 이용하여 상기 입력 영상에서 에지(edge)와 같은 고주파 성분 을 복원하는 단계를 포함할 수 있다. Here, the step of correcting the input luminance component (Y in ) of the image file by using the generated three-dimensional gamma correction table and converting the input luminance component (Y out ) into the output luminance component (Y out ) may be performed by using the generated high frequency component reconstruction function. The method may include restoring a high frequency component such as an edge in the image.
본 발명에 있어서, 상기 입력 휘도 성분과 상기 출력 휘도 성분 간의 차이에 따라 감소된 입력 영상의 색상의 채도를 보정하는 단계를 더 포함할 수 있다. The method may further include correcting the saturation of the color of the reduced input image according to the difference between the input luminance component and the output luminance component.
이와 같은 본 발명에 의해서, 컨트라스트가 개선되고, 변곡점 부근에서의 표현 범위의 감소가 개선되는 효과를 얻을 수 있다. According to the present invention as described above, the contrast can be improved and the reduction of the expression range near the inflection point can be obtained.
이하, 첨부된 도면을 참조하여 본 발명을 상세히 설명한다.Hereinafter, the present invention will be described in detail with reference to the accompanying drawings.
도 3은 본 발명에 관한 디지털 영상 처리 장치의 앞쪽 및 위쪽 외형을 보여주는 사시도 이다.3 is a perspective view showing the front and top contours of the digital image processing apparatus according to the present invention.
셔터-릴리즈 버튼(101)은 정해진 시간 동안 촬상소자나 필름을 빛에 노출시키기 위해 열리고 닫히며, 조리개(미도시)와 연동하여 피사체를 적정하게 노출시켜 촬상소자에 영상을 기록한다. The
셔터-릴리즈 버튼(101)은 촬영자 입력에 의해 제1 및 제2 영상 촬영 신호를 생성한다. 반셔터 신호로서의 제1 셔터-릴리즈 신호가 입력되면, 디지털 영상 처리 장치는 초점을 잡고 빛의 양을 조절하며, 이때 초점이 맞은 경우 디스플레이부(113)에 녹색 불이 켜지게 된다. 제1 셔터-릴리즈 신호의 입력으로 초점이 잡히고 빛의 양이 조절되면, 비로소 완전셔터 신호로서의 제2 셔터-릴리즈 신호를 입력하여 영상을 촬영한다.The
전원 버튼(103)은 디지털 영상 처리 장치에 전원을 공급하여 동작시키기 위 해 입력된다.The
플래시(105)는 어두운 곳에서 촬영할 경우 밝은 빛을 순간적으로 비추어 밝게 해주는 것으로, 플래시 모드에는 자동플래시, 강제발광, 발광금지, 적목감소, 슬로우 싱크로 등이 있다. The
보조광(107)은 광량이 부족하거나 야간 촬영 시에 디지털 영상 처리 장치가 자동으로 초점을 빠르고 정확하게 잡을 수 있도록 피사체에 광을 공급한다.The
렌즈부(109)는 외부 광원으로부터 빛을 받아 영상을 처리한다. The
도 4는 도 3에 도시된 디지털 영상 처리 장치의 뒤쪽 외형을 보여주는 배면도로서, 광각-줌 버튼(111w), 망원-줌 버튼(111t), 디스플레이부(113) 및 터치 센서 또는 접점식 스위치가 구비된 입력 버튼들(B1~B14)(이하 버튼들(B1~B14)이라 표기함)을 구비한다.FIG. 4 is a rear view illustrating a rear shape of the digital image processing apparatus illustrated in FIG. 3, wherein the wide-
광각-줌 버튼(111w) 또는 망원-줌 버튼(111t)은 입력에 따라 화각이 넓어지거나, 화각이 좁아지는데, 특히, 선택된 노출영역의 크기를 변경시키고자 할 때 입력한다. 광각-줌 버튼(111w)이 입력되면, 선택된 노출영역의 크기가 작아지고, 망원-줌 버튼(111t)이 입력되면, 선택된 노출영역의 크기가 커진다. The wide-
버튼들(B1~B14)은 디스플레이부(113)의 가로 열 및 세로 열에 구비된다. 디스플레이부(113)의 가로 열 및 세로 열에 구비된 버튼들(B1~B14)은 터치 센서(도시되지 않음) 또는 접점식 스위치(도시되지 않음)가 구비되어 있다.The buttons B1 to B14 are provided in the horizontal column and the vertical column of the
즉, 버튼들(B1~B14)에는 터치 센서가 구비되어 가로 열의 버튼들(B1~B7) 또는 세로 열의 버튼들(B8~B14)을 터치한 상태에서 상/하/좌/우로 이동하여 주메뉴 항목 중 임의의 값(예를 들어, 컬러 또는 밝기)을 선택하거나, 주메뉴 아이콘에 포함된 하위메뉴 아이콘을 활성화시킬 수 있다.That is, the buttons B1 to B14 are provided with a touch sensor and move up / down / left / right in a state where the buttons B1 to B7 in the horizontal row or the buttons B8 to B14 in the vertical row are touched. Any value of the item (eg, color or brightness) may be selected or a submenu icon included in the main menu icon may be activated.
또한 버튼들(B1~B14)에는 접점식 스위치가 구비되어 있어, 주메뉴 아이콘 및 하위메뉴 아이콘을 직접 선택하여 해당 기능을 실행시킬 수 있다. 터치 센서는 접점식 스위치 입력에 비해 상대적으로 약한 터치만을 요구하지만, 접점식 스위치 입력은 터치 센서 입력에 비해 상대적으로 강한 터치를 요구한다. In addition, the buttons B1 to B14 are provided with contact switches so that the corresponding function can be executed by directly selecting the main menu icon and the submenu icon. The touch sensor requires only a weak touch relative to the contact switch input, but the contact switch input requires a relatively strong touch compared to the touch sensor input.
도 5는 도 3 및 도 4에 도시된 디지털 영상 처리 장치의 구성을 보이는 블록도로서, 디스플레이부(113), 사용자 입력부(121), 촬상부(123), 영상 처리부(125), 저장부(127) 및 디지털 신호 처리부(130)를 포함한다.FIG. 5 is a block diagram illustrating the configuration of the digital image processing apparatus illustrated in FIGS. 3 and 4. The
사용자 입력부(121)는 정해진 시간 동안 촬상 소자나 필름을 빛에 노출시키기 위해 열리고 닫히는 셔터-릴리즈 버튼(101), 전원을 공급하기 위해 입력하는 전원 버튼(103), 입력에 따라 화각을 넓어지게 하거나, 화각을 좁아지게 하는 광각-줌 버튼(111w) 및 망원-줌 버튼(111t)과, 문자 또는 메뉴 설정을 위해 디스플레이부(113) 주변의 가로 및 세로열에 구비된 터치센서 또는 접점식 스위치가 구비된 버튼들(B1~B14)이 있다.The
촬상부(123)는 도면에 도시되지 않은 셔터, 렌즈부, 조리개, CCD(Charge Coupled Device) 및 ADC(analog-to-digital converter)를 포함한다. 셔터는 조리개와 함께 노광하는 빛의 양을 조절하는 기구이다. 렌즈부는 외부 광원으로부터 빛을 받아 영상을 처리한다. 이때, 조리개는 개폐 정도에 따라 입사되는 빛의 양(광량)을 조절한다. 조리개의 개폐 정도는 디지털 신호 처리부(130)에 의해 제어된다.The
CCD는 렌즈부를 통하여 입력되는 광량을 축적하고 그 축적된 광량에 따라 렌즈부에서 촬상된 영상을 수직 동기신호에 맞추어 출력한다. 디지털 영상 처리 장치의 영상 획득은 피사체로부터 반사되어 나오는 빛을 전기적인 신호로 변환시켜 주는 CCD에 의해 이루어진다. CCD를 이용하여 컬러 영상을 얻기 위해서는 컬러 필터를 필요로 하며, 대부분 CFA(Color filter array) 라는 필터(미도시)를 채용하고 있다. CFA는 한 픽셀마다 한 가지 컬러를 나타내는 빛만을 통과시키며 규칙적으로 배열된 구조를 가지고 있으며, 배열 구조에 따라 여러 가지 형태를 가지고 있다. ADC는 CCD로부터 출력되는 아날로그 영상신호를 디지털 신호로 변환한다.The CCD accumulates the amount of light input through the lens unit and outputs an image captured by the lens unit in accordance with the accumulated light amount in accordance with the vertical synchronization signal. Image acquisition of the digital image processing apparatus is performed by a CCD that converts light reflected from a subject into an electrical signal. In order to obtain a color image using a CCD, a color filter is required, and most of them employ a filter (not shown) called a color filter array (CFA). CFA has a regularly arranged structure that passes only light that represents one color per pixel, and it has various forms according to the arrangement structure. The ADC converts an analog video signal output from the CCD into a digital signal.
영상 처리부(125)는 디지털 변환된 RAW 데이터를 디스플레이 가능하도록 신호처리 한다. 영상 처리부(125)는 온도변화에 민감한 CCD 및 CFA 필터에서 발생하는 암 전류에 의한 블랙레벨(Black level)을 제거한다. 영상 처리부(125)는 디지털 신호 처리부(130)의 제어 하에 인간 시각의 비선형성에 맞추어 정보를 부호화하는 감마 보정을 수행한다. 상기 감마 보정에 대하여는 뒤에서 상세히 설명한다. 또한, 영상 처리부(125)는 감마 보정된 소정 데이터의 RGRG라인 및 GBGB 라인으로 구현된 베이어 패턴을 RGB 라인으로 보간하는 CFA 보간을 수행한다. 또한, 영상 처리부(125)는 보간된 RGB 신호를 YUV 신호로 변환하고, 고 대역 필터에 의해 Y 신호를 필터링 하여 영상을 뚜렷하게 처리하는 에지 보상과, 표준 컬러 좌표계를 이용하여 U, V 신호의 컬러 값을 정정하는 컬러 정정을 수행하며, 이들의 노이즈를 제거한다. 또한, 영상 처리부(125)는 노이즈가 제거된 Y, U, V 신호를 압축 및 신호 처리하여 JPEG 파일을 생성하고, 생성된 JPEG 파일은 디스플레이부(113)에 디스플레이 되고, 저장부(127)에 저장된다. 이와 같은 영상 처리부(125)의 모든 동작은 디지털 신호 처리부(130)의 제어 하에 동작한다.The
도 6은 도 5의 디지털 신호 처리부의 상세 블록도이다. FIG. 6 is a detailed block diagram of the digital signal processor of FIG. 5.
도 6을 참조하면, 디지털 신호 처리부(130)는 3차원 감마 보정 테이블을 생성하고, 상기 생성된 3차원 감마 보정 테이블에 의해 영상 파일의 입력 휘도 레벨을 보정하여 출력하도록 제어한다. Referring to FIG. 6, the
상세히, 인간의 시각은 베버의 법칙(Weber's law)에 따라 밝기에 대해 비선형적으로 반응하기 때문에, 한정된 비트 심도(Bit depth)가 주어졌을 때, 선형적으로 빛의 밝기를 기록하면 포스터리제이션(Posterization)이 발생한다. 따라서, 주어진 비트 심도 하에서 최대한의 화질을 보여주기 위해서는 비선형 함수를 사용하여 부호화해야 한다. 이와 같이, 인간 시각의 비선형성에 맞추어 정보를 부호화하는 것을 감마 보정이라고 한다. In detail, human vision responds nonlinearly to brightness in accordance with Weber's law, so given a limited bit depth, linearly recording the brightness of light results in posterization ( Posterization) occurs. Therefore, in order to show the maximum image quality under a given bit depth, it is necessary to encode using a nonlinear function. Thus, encoding information according to nonlinearity of human vision is called gamma correction.
종래에는 이와 같은 감마 보정을 수행하기 위하여, 상술한 바와 같이 일반적인 2차원 전달 함수를 사용하거나, "복수의 감마보정(multiple correction)" 방법을 사용하거나, "비선형 맵핑(non-linear mapping)" 방법을 사용하는 방안 등이 제안되었다. 그런데, 이와 같이 전달 함수를 사용하여 감마 보정을 수행할 경우, 명부의 세부 정보를 잘 보이게 하기 위하여 감마(Γ)값을 1보다 크게 하면 암부의 세부 정보가 손실되고, 반대로 암부의 세부 정보를 잘 보이게 하기 위하여 감마(Γ)값을 1보다 작게 하면 명부의 세부 정보가 손실되는 문제점이 존재하였다. 또한, 이를 보완하기 위한 다른 방법들은, 변곡점을 설정한 후 이를 이용하여 전달 함수 를 생성하는 방식이나, 이 경우에도 변곡점 부근의 휘도 성분의 경우 곡선의 선형성으로 인하여 표현 범위가 감소하므로 컨트라스트가 감소한다는 문제점이 존재하였다. Conventionally, in order to perform such gamma correction, a general two-dimensional transfer function, a "multiple correction" method, or a "non-linear mapping" method as described above are used. It has been proposed to use a. However, in the case of performing gamma correction using the transfer function in this way, if the gamma (Γ) value is larger than 1 in order to make the details of the list visible, the details of the dark parts are lost, and conversely, the details of the dark parts are well known. To make it visible, if the gamma (Γ) value is smaller than 1, there is a problem that the details of the list are lost. In addition, other methods to compensate for this are to set an inflection point and then use it to generate a transfer function, but even in this case, the luminance component near the inflection point decreases the representation range due to the linearity of the curve. There was a problem.
즉, 이와 같은 종래의 감마 보정 방법은 입력 휘도와 출력 휘도 간에 1:1 대응 관계를 이루므로, 컨트라스트를 올리고 싶은 부분의 표현 범위를 늘리면 다른 부분의 표현 범위가 그만큼 줄어들게 되고, 따라서 필연적으로 특정 부분의 컨트라스트 손실이 발생할 수밖에 없는 구조적인 문제점이 존재하였다. That is, the conventional gamma correction method forms a 1: 1 correspondence between the input luminance and the output luminance, so that increasing the expression range of the portion to increase the contrast decreases the expression range of the other portion, thus inevitably a specific portion. There was a structural problem that the loss of contrast must occur.
또한, 이와 같은 종래의 감마 보정 방법은 모두 각 화소의 입력 영상의 휘도 성분만을 고려하여 출력 영상의 휘도 성분을 조절할 뿐, 주변 화소들과의 상관 관계에 대하여는 고려하지 않고 있으므로, 로컬 컨트라스트가 감소한다는 문제점이 존재하였다. 즉, 기존에 비해 휘도가 조절이 된다고 하더라도, 에지와 같은 부분이 뚜렷하지 않아 선명도가 떨어진 출력 영상이 생성된다는 문제점이 존재하였다. In addition, all of the conventional gamma correction methods adjust only the luminance component of the output image by considering only the luminance component of the input image of each pixel, and do not consider the correlation with neighboring pixels, thereby reducing local contrast. There was a problem. That is, even though the luminance is controlled compared with the conventional art, there is a problem in that an output image having a lowered sharpness is generated because a portion such as an edge is not clear.
이와 같은 문제점을 해결하기 위하여, 본 발명의 일 실시예에 관한 디지털 영상 처리 장치(100)는 비선형 전달 함수 생성 시, 주변 화소들과의 상관 관계를 고려하여 1:다 대응 함수를 만들어서, 주변 화소들과의 상관 관계에 따라 각각 다른 감마 보정을 수행하도록 함으로써, 로컬 컨트라스트를 개선하고, 변곡점 부근에서의 표현 범위의 감소를 줄이는 것을 특징으로 한다. In order to solve such a problem, the digital
즉, 도 1에 도시된 바와 같이 기존의 전달 함수가 2차원 공간에서 표현 가능했다면, 도 7에 도시된 바와 같이 본 발명의 일 실시예에 관한 디지털 영상 처리 장치(100)는 입력 휘도 성분과 주변 화소들과의 상관성을 하나의 축으로 추가하여 3차원 공간으로 확장한 3차원 감마 보정을 수행하는 것을 특징으로 한다. 즉, 도 1의 2차원 공간에서는 x 축이 입력 휘도 성분(Yin)을 나타내고, y 축이 출력 휘도 성분(Yout)을 나타내었다. 이에 반하여, 도 7의 3차원 공간에서는 x 축이 입력 휘도 성분(Yin)을 나타내고, y 축이 입력 휘도 성분과 주변 화소들과의 상관성(Yrelation)을 나타내고, z 축이 출력 휘도 성분(Yout)을 나타내도록 구성되어서, 주변 화소들과의 상관 관계에 따라 각각 다른 감마 보정을 수행할 수 있는 것이다. That is, as shown in FIG. 1, if the existing transfer function can be expressed in a two-dimensional space, as shown in FIG. 7, the digital
이를 위하여, 본 발명의 디지털 영상 처리 장치(100)의 디지털 신호 처리부(130)는 감마 테이블 생성부(131)와, 컨트라스트 보정부(132)와, 채도 보정부(133)와, 제어부(134)를 포함한다. To this end, the
감마 테이블 생성부(131)는 제어부(134)의 제어하에 3차원 감마 보정을 위한 테이블을 생성한다. 감마 테이블 생성부(131)는 휘도 성분 추출부(131a)와, 주변 관계 정의부(131b)와, 전달 함수 생성부(131c)와, 고주파 성분 복원 계수 결정부(131d)를 포함한다. The
이를 더욱 상세히 설명하면, 휘도 성분 추출부(131a)는 제어부(134)의 제어 하에, 입력 영상으로부터 휘도 성분을 추출한다. 상세히, 휘도 성분은 밝기와 관련된 성분으로, 이를 변화시켜도 색상은 변화되지 않는다. 영상의 컨트라스트를 향상시키고자 할 경우, RGB 색 공간에서 R, G, B 성분을 직접 조절하는 것보다, 사람의 눈이 밝기 변화에 특히 민감하다는 특성을 고려하여, 휘도 성분을 먼저 조절하여 컨트라스트를 향상시킨 후, 휘도 성분의 변화량을 고려하여 R, G, B 성분들을 조절 하는 방식이 주로 사용된다. RGB영상을 YCbCr 성분으로 변환하는 과정은 종래 공지되어 있으므로, 본 명세서에서는 그 상세한 설명은 생략하도록 한다. In more detail, the
주변 관계 정의부(131b)는 제어부(134)의 제어 하에, Yrelation을 정의한다. 여기서, Yrelation은 주변 화소와의 관계를 고려한 함수로써, 후술할 3차원 감마 보정을 위한 전달 함수를 생성하는데 사용되는 함수이다. 이와 같은 Yrelation은 아래의 수학식 3에 의해서 구할 수 있다. The peripheral
여기서, Yneighborhood는 주변 화소들의 휘도 값을 나타내고, R은 현재 위치의 화소와 주변 화소와의 관계를 나타내는 함수이다. 예를 들어, 상, 하, 좌, 우 및 대각 방향으로 바로 인접한 화소를 고려할 경우의 함수 R은 아래의 수학식 4에 의해서 구할 수 있다. Here, Y neighborhood represents the luminance value of the neighboring pixels, and R is a function representing the relationship between the pixel of the current position and the neighboring pixel. For example, the function R in consideration of pixels immediately adjacent in the up, down, left, right, and diagonal directions can be obtained by Equation 4 below.
여기서, Y(i,j)는 현재 화소의 휘도 값을 나타내며, Y(i±1,j±1)은 현재 화소의 주변 화소들의 휘도 값을 나타낸다. 한편, α값들은 주변 화소가 미치는 영향에 대한 가중치 계수를 나타내며, 일반적으로는 가우시안 평균 필터(gaussian mean filter)나 기하 평균 필터(geometric mean filter) 계수 등이 주로 사용된다. 즉, 현재 화소 및 그 주변 화소들의 입력 휘도 값과 가중치 계수를 연산함으로써 현재 화소와 주변 화소의 관계를 나타내는 Yrelation 함수를 정의하는 것이다. 여기서, 상기 α값들은 각각 실험 데이터에 의하여 경험적으로 구할 수 있는 값이다. Here, Y (i, j) represents the luminance value of the current pixel, Y (i ± 1, j ± 1) represents the luminance value of the peripheral pixels of the current pixel. On the other hand, the α values represent weighting coefficients for the influence of the surrounding pixels, and in general, Gaussian mean filters or geometric mean filter coefficients are mainly used. That is, the Y relation function representing the relationship between the current pixel and the neighboring pixel is defined by calculating the input luminance value and the weighting coefficient of the current pixel and the neighboring pixels. Here, the α values are values that can be obtained empirically by experimental data.
여기서, 수학식 4에서는 Yrelation 함수가 현재 화소와, 현재 화소를 둘러싸고 있는 8개의 화소와의 관계로부터 정의되는 것으로 도시되어 있으나, 본 발명의 사상은 이에 제한되지 아니한다. 즉, Yrelation 함수는 현재 화소와, 현재 화소의 상하좌우의 4개의 화소와의 관계로 정의하는 것도 가능하며, 나아가서는 5*5, 또는 7*7 등의 매트릭스를 사용하여 Yrelation 함수를 더 많은 주변 화소들과의 관계로 정의하는 것도 가능하다 할 것이다. Here, in Equation 4, the Y relation function is illustrated as being defined from the relationship between the current pixel and eight pixels surrounding the current pixel, but the inventive concept is not limited thereto. That is, the Y relation function may be defined as a relationship between the current pixel and four pixels in the top, bottom, left, and right sides of the current pixel. Further, the Y relation function may be further added using a matrix such as 5 * 5 or 7 * 7. It is also possible to define the relationship with many surrounding pixels.
전달 함수 생성부(131c)는 제어부(134)의 제어 하에, 3차원 감마 보정을 위한 전달 함수(transfer function) T를 생성한다. 즉, 본 발명의 일 실시예에 관한 디지털 영상 처리 장치(100)에서, 입력 영상의 휘도 값과 함께 주변 화소들과의 상관 관계를 고려하여 출력 영상의 휘도 값을 산출하는 1:다 대응 함수인 전달 함수 T는 아래의 수학식 5과 같이 표현할 수 있다. The
여기서, Yin은 입력 영상의 휘도 값이고, Yout은 출력 영상의 휘도 값이다. 또한, T는 전달 함수(transfer function)로써 이는 비선형 곡선이고, Yrelation은 주변 관계 정의부(131b)가 상술한 수학식 3 및 수학식 4에 의하여 정의한 주변 화소와의 관계를 고려한 함수이다. 즉, 입력 영상의 휘도 값과 주변 화소들과의 관계를 고려한 전달 함수를 생성함으로써, 3차원 감마 보정을 위한 감마 테이블을 생성하는 것이다. 여기서, 함수 T는 아래의 수학식 6에 의해서 구할 수 있다. Herein, Y in is a luminance value of the input image, and Y out is a luminance value of the output image. In addition, T is a transfer function, which is a nonlinear curve, and Y relation is a function in consideration of the relationship with the peripheral pixel defined by Equation 3 and Equation 4 above. That is, a gamma table for three-dimensional gamma correction is generated by generating a transfer function considering a relationship between luminance values of an input image and surrounding pixels. Here, the function T can be obtained by Equation 6 below.
여기서, n은 Yin이 0과 1 사이의 값을 가지도록 변환하는 정규화(normalized) 상수이고, Γ는 감마 보정 계수이며, ω는 주변 화소들과의 관계를 이용한 보정 정도를 조정하는 계수이다. 따라서, 입력 영상의 휘도 값(Yin)이 일정하더라도, 주변 화소와의 관계 값(Yrelation)에 따라서 출력 영상의 휘도 값(Yout)이 서로 다른 다양한 결과값을 가짐으로써, 보다 선명한 보정 결과를 얻을 수 있다. 즉, 이와 같이 비선형 곡선을 이루는 전달 함수 T를 생성함으로써, 명부의 콘트라스트를 손실하지 않으면서, 암부의 콘트라스트를 높이기 위한 밝기 조절을 수행할 수 있는 것이다. 여기서, 상기 n, Γ, ω값들은 각각 실험 데이터에 의하여 경험적으로 구할 수 있는 값이다. Here, n is a normalized constant for converting Y in to have a value between 0 and 1, Γ is a gamma correction coefficient, and ω is a coefficient for adjusting the degree of correction using the relationship with surrounding pixels. Therefore, even if the luminance value Y in of the input image is constant, the luminance value Y out of the output image has various different results according to the relation value (Y relation ) with the surrounding pixels, thereby providing a clearer correction result. Can be obtained. In other words, by generating the transfer function T constituting the nonlinear curve in this way, it is possible to perform brightness adjustment to increase the contrast of the dark part without losing the contrast of the light. Herein, the n, Γ, and ω values are values that can be obtained empirically by experimental data.
한편, 감마 테이블 생성부(131)는 고주파 성분 복원 계수 결정부(131d)를 더 포함할 수 있다. 고주파 성분 복원 계수 결정부(131d)는 제어부(134)의 제어 하에, 고주파 성분 복원 계수를 결정하는 역할을 수행한다. 상세히, 고주파 성분 복원 계수 결정부(131d)는 에지(edge)와 같은 고주파 성분을 부가적으로 복원하기 위한 복원 계수를 결정하는 역할을 수행한다. 즉, 고주파 성분을 복원하는 일종의 하이패스 필터의 역할을 수행하는 것이다. 이와 같이 고주파 성분을 복원함으로써, 입력 영상에 비해 감소된 출력 영상의 세부 정보를 복원할 수 있으며, 따라서 선명도가 향상된 출력 영상을 얻을 수 있다. 여기서, 고주파 성분 함수 S는 아래의 수학식 7에 의해서 구할 수 있다. The
여기서, κ는 고주파 성분의 복원 정도를 결정하는 계수로써, 실험 데이터에 의하여 경험적으로 구할 수 있는 값이다. Here, κ is a coefficient that determines the degree of restoration of the high frequency component, and is a value that can be obtained empirically by experimental data.
이와 같은 고주파 성분 복원 함수 S를 더하여, 수학식 6에 정의된 함수 T는 다음과 같이 재정의될 수 있다. In addition to the high frequency component recovery function S, the function T defined in Equation 6 may be redefined as follows.
상술한 바와 같이, 감마 테이블 생성부(131)의 휘도 성분 추출부(131a)와, 주변 관계 정의부(131b)와, 전달 함수 생성부(131c)와, 고주파 성분 복원 계수 결정부(131d)에 의하여, 도 7에 도시된 바와 같은 3차원 감마 보정을 위한 테이블이 생성되는 것이다. As described above, the luminance
한편, 컨트라스트 보정부(132)는 밝기 보정부(132a)와 고주파 성분 복원부(132b)를 포함한다. 컨트라스트 보정부(132)는 제어부(134)의 제어 하에, 상술한 감마 테이블 생성부(131)에 의하여 생성된 3차원 감마 보정을 위한 테이블에 기초하여, 영상 파일의 입력 휘도 레벨을 보정하여 출력한다. Meanwhile, the
밝기 보정부(132a)는 제어부(134)의 제어하에 휘도 성분의 보정을 통한 밝기 조절을 수행한다. 상세히, 밝기 보정부(132a)는 상술한 수학식 6으로 정의된 3차원 감마 보정을 위한 전달 함수(transfer function) T를 통해, 입력 영상의 휘도 성분을 보정하여 출력 영상의 밝기를 조절한다. The
고주파 성분 보정부(132b)는 제어부(134)의 제어하에 고주파 성분을 복원하여 컨트라스트 조절을 수행한다. 상세히, 고주파 성분 보정부(132b)는 상술한 수학 식 6에, 고주파 성분 복원 계수 결정부(131d)에 의하여 정의된 고주파 성분 함수 S가 더하여져서 수학식 8로 재정의된, 3차원 감마 보정을 위한 전달 함수(transfer function) T를 통해, 입력 영상의 휘도 성분을 보정하여 출력 영상의 밝기를 조절한다. The high
한편, 컨트라스트 개선을 위하여 휘도 성분의 보정을 통한 밝기 조절이 완료되면, 채도 보정부(133)는 제어부(134)의 제어 하에, 휘도 성분의 변화량에 따라 감소된 색상의 채도를 보정해 준다. 상세히, YCbCr 데이터에서 색상 성분 즉, Cb 및 Cr 성분을 그대로 둔 채 휘도 성분 즉, Y 성분만을 보정 할 경우, 물감에 물을 많이 넣어서 물이 빠진 것처럼 채도가 감소된 영상이 출력된다. 이 경우, 사용자가 육안으로 관찰하기에는 컨트라스트가 개선된 장점보다 채도가 감소된 단점이 부각되는 문제점이 발생할 수 있다. 이러한 문제점을 해결하기 위하여, 본 발명에서는 휘도 성분의 보정 후, 채도를 보정하기 위한 채도 보정부(133)를 더 구비할 수 있다. On the other hand, when the brightness adjustment through the correction of the luminance component is completed to improve the contrast, the
채도 보정부(133)가 RGB 포맷으로 영상을 출력할 경우에는 아래의 수학식 8에 의하여 출력 영상의 채도를 보정하고, 채도 보정부(133)가 YCbCr 포맷으로 영상을 출력할 경우에는 아래의 수학식 9에 의하여 출력 영상의 채도를 보정한다. When the
여기서, Cin과 Cout은 각각 입력과 출력의 색상 성분 값이며, Cmid는 디지털 영상 처리 장치에서 표현할 수 있는 색상 범위(예를 들어, 0~255)의 중간값(예를 들어, 128)을 나타낸다. 한편, rgbp와 cp는 각각 상기 수학식 8과 수학식 9의 파라미터로써, 실험 데이터에 의하여 경험적으로 구할 수 있는 값이다. Where C in and C out are the color component values of the input and output, respectively, and C mid is the median value of the color range (eg, 0 to 255) that can be expressed by the digital image processing apparatus (eg, 128). Indicates. Meanwhile, rgb p and c p are parameters of Equations 8 and 9, respectively, and are values that can be obtained empirically by experimental data.
이와 같은 본 발명에 의해서, 비선형 전달 함수 생성 시, 주변 화소들과의 상관 관계를 고려하여 1:다 대응 함수를 만들어서, 주변 화소들과의 상관 관계에 따라 각각 다른 감마 보정을 수행하도록 함으로써, 로컬 컨트라스트를 개선하고, 변곡점 부근에서의 표현 범위의 감소를 줄이는 효과를 얻을 수 있다. According to the present invention, when the nonlinear transfer function is generated, a 1: multi correspondence function is created in consideration of correlations with neighboring pixels, and different gamma corrections are performed according to correlations with neighboring pixels. It is possible to obtain the effect of improving the contrast and reducing the reduction of the expression range near the inflection point.
이하에서는 종래의 감마 보정을 적용한 결과 영상과, 본 발명에 관한 감마 보정을 적용한 결과 영상을 상세히 비교한다. Hereinafter, the resultant image of applying the conventional gamma correction and the resultant image of applying the gamma correction according to the present invention will be compared in detail.
도 8a와 같은 원본 영상을 도 9a와 같은 종래의 2차원 감마 보정 전달 함수를 이용하여 감마 보정을 수행한 결과는 도 8b와 같다. 즉, 도 8a와 같은 원본 영상에서 암부(160a)의 세부 정보를 잘 보이게 하기 위하여 감마(Γ)값을 1보다 작게 하여 감마 보정을 수행하면, 도 8b와 같이 암부(160b)는 원본보다 밝아져서 영상의 식별이 용이해지지만, 그만큼 명부(150b)는 더 어둡게 되어 영상의 식별이 어렵게 된다. The result of performing gamma correction on the original image as shown in FIG. 8A using the conventional two-dimensional gamma correction transfer function as shown in FIG. 9A is shown in FIG. 8B. That is, when gamma correction is performed by making the gamma (Γ) value smaller than 1 in order to make the detailed information of the
반면, 도 8a와 같은 원본 영상을 도 9b와 같은 본 발명의 일 실시예에 관한 디지털 영상 처리 장치에서 생성한 3차원 감마 보정 전달 함수를 이용하여 감마 보정을 수행한 결과는 도 8c와 같다. 즉, 도 8a와 같은 원본 영상에서 암부(160c)가 원본보다 밝아져서 영상의 식별이 용이해지는 동시에, 명부(150c) 또한 원본 영상보다 더욱 또렷하게 보이도록 감마 보정이 수행되는 것이다. 즉, 도 8c는 도 8b에 비하여, 어두운 영역이 밝게 보정되면서도 밝은 영역이 포화되지 않으며, 따라서 더욱 선명한 역광 보정 결과를 얻을 수 있는 것이다. On the other hand, the result of performing gamma correction on the original image as shown in FIG. 8A using the 3D gamma correction transfer function generated by the digital image processing apparatus according to the embodiment as shown in FIG. 9B is shown in FIG. 8C. That is, in the original image as shown in FIG. 8A, the
또한, 도 9a와 도 9b를 비교해 보았을 때, 도 9a에서는 입력 영상의 휘도 성분과 출력 영상의 휘도 성분이 1:1 대응이기 때문에, 입력 영상의 휘도 성분이 정해지면, 주변 화소와의 관계와 무관하게 출력값이 정해지게 되었다. 이에 반하여, 도 9b에서는 입력 영상의 휘도 성분과 출력 영상의 휘도 성분이 1:다 대응을 이루어서, 입력 영상의 휘도 성분이 동일한 경우에도 주변 화소와의 관계에 따라서 서로 다른 출력 영상의 휘도 성분을 가질 수 있기 때문에, 더욱 선명한 보정 결과를 얻을 수 있는 것이다. In comparison with FIGS. 9A and 9B, since the luminance component of the input image and the luminance component of the output image are 1: 1 correspondence in FIG. 9A, the luminance component of the input image is determined, regardless of the relationship with the surrounding pixels. The output value is determined. In contrast, in FIG. 9B, the luminance component of the input image and the luminance component of the output image correspond to one-to-one correspondence, so that even when the luminance component of the input image is the same, the luminance component of the output image may have different luminance components according to the relationship with surrounding pixels. As a result, a clearer correction result can be obtained.
이어서, 도 10을 참조하여 본 발명에 따른 디지털 영상 처리 방법을 상세히 설명한다. 본 발명에 따른 영상 처리 방법은 도 5에 도시된 바와 같은 영상 처리장치의 내부에서 수행될 수 있는데, 실시 예에 따라 동작 방법의 주 알고리즘은 장치 내의 주변 구성 요소들의 도움을 받아 디지털 신호 처리부(130) 내부에서 수행될 수 있다.Next, a digital image processing method according to the present invention will be described in detail with reference to FIG. 10. The image processing method according to the present invention may be performed in the image processing apparatus as shown in FIG. 5. According to an embodiment, the main algorithm of the operation method may be performed by the
도 10을 참조하면, 본 발명에 관한 디지털 영상 처리 장치의 제어 방법은, 입력 영상에서 휘도 성분을 추출하는 단계(S110 단계), 주변 화소와의 관계를 정의하는 단계(S120 단계), 비선형 전달 함수를 생성하는 단계(S130 단계), 고주파 성분 복원 계수를 결정하는 단계(S140 단계), 영상의 밝기를 보정 하는 단계(S150 단계), 고주파 성분을 복원하는 단계(S160 단계) 및 채도를 보정 하는 단계(S170 단계)를 포함한다. Referring to FIG. 10, the control method of the digital image processing apparatus according to the present invention may include extracting luminance components from an input image (S110), defining a relationship with surrounding pixels (S120), and a nonlinear transfer function. Generating (S130), determining a high frequency component recovery coefficient (S140), correcting image brightness (S150), restoring a high frequency component (S160), and correcting saturation (Step S170).
상세히, 본 발명의 일 실시예에 관한 디지털 영상 처리 장치의 제어 방법은 비선형 전달 함수 생성 시, 주변 화소들과의 상관 관계를 고려하여 1:다 대응 함수를 만들어서, 주변 화소들과의 상관 관계에 따라 각각 다른 감마 보정을 수행하도록 함으로써, 로컬 컨트라스트를 개선하고, 변곡점 부근에서의 표현 범위의 감소를 줄이는 것을 일 특징으로 한다. In detail, the control method of the digital image processing apparatus according to the exemplary embodiment of the present invention creates a 1: multi-corresponding function in consideration of the correlation with the surrounding pixels when generating the nonlinear transfer function, By performing different gamma correction according to the present invention, the local contrast is improved, and the reduction in the expression range near the inflection point is characterized in that the characteristics are reduced.
이를 위하여 먼저, 3차원 감마 보정을 위한 테이블을 생성한다. To this end, first, a table for 3D gamma correction is generated.
3차원 감마 보정을 위한 테이블을 생성하기 위하여서는 먼저 입력 영상에서 휘도 성분을 추출(S110 단계)한다. 상세히, 휘도 성분은 밝기와 관련된 성분으로 이를 변화시켜도 색상은 변화되지 않으며, 영상의 컨트라스트를 향상시키고자 할 경우, RGB 색 공간에서 R, G, B 성분을 직접 조절하는 것보다, 사람의 눈이 밝기 변화에 특히 민감하다는 특성을 고려하여, 휘도 성분을 먼저 조절하여 컨트라스트를 향상시킨 후, 휘도 성분의 변화량을 고려하여 R, G, B 성분들을 조절하는 방식이 주로 사용된다. RGB영상을 YCbCr 성분으로 변환하는 과정은 종래 공지되어 있으므로, 여기서는 그 상세한 설명은 생략하도록 한다. In order to generate a table for three-dimensional gamma correction, first, a luminance component is extracted from the input image (step S110). In detail, the luminance component is a component related to brightness, and the color does not change even when it is changed. When the contrast of the image is to be improved, the human eye is not directly controlled by the R, G, and B components in the RGB color space. In consideration of the characteristic of being particularly sensitive to changes in brightness, a method of adjusting the luminance component first to improve contrast and then adjusting the R, G and B components in consideration of the change amount of the luminance component is mainly used. Since a process of converting an RGB image into a YCbCr component is conventionally known, its detailed description will be omitted here.
다음으로, 주변 화소와의 관계를 정의하기 위하여, 주변 화소와의 관계를 고 려한 함수인 Yrelation을 정의(S120 단계)한다. Yrelation은 3차원 감마 보정을 위한 전달 함수를 생성하는데 사용되는 함수이며, 이와 같은 Yrelation은 상술한 바와 같이 수학식 3 및 수학식 4에 의해서 구할 수 있다. Next, in order to define the relationship with the surrounding pixels, a Y relation which is a function considering the relationship with the surrounding pixels is defined (step S120). The Y relation is a function used to generate a transfer function for three-dimensional gamma correction. Such a Y relation can be obtained by using Equations 3 and 4 as described above.
다음으로, 상기 Yrelation 함수를 이용하여 비선형 전달 함수인 T를 생성(S130 단계)한다. 비선형 전달 함수인 T는 3차원 감마 보정을 위한 전달 함수(transfer function)로써, 입력 영상의 휘도 값과 함께 주변 화소들과의 상관 관계를 고려하여 출력 영상의 휘도 값을 산출하는 1:다 대응 함수이다. 이와 같은 비선형 전달 함수인 T는 상술한 바와 같이 수학식 5 및 수학식 6에 의해서 구할 수 있다. 이와 같이 비선형 곡선을 이루는 전달 함수 T를 생성함으로써, 명부의 콘트라스트를 손실하지 않으면서, 암부의 콘트라스트를 높이기 위한 밝기 조절을 수행할 수 있는 것이다. Next, the nonlinear transfer function T is generated using the Y relation function (step S130). T, a nonlinear transfer function, is a transfer function for three-dimensional gamma correction. It is a 1: multi-correspondence function that calculates the luminance value of the output image by considering the luminance value of the input image and the correlation with surrounding pixels. to be. T, which is such a nonlinear transfer function, can be obtained by using Equations 5 and 6 as described above. By generating the transfer function T constituting the nonlinear curve in this way, it is possible to perform brightness adjustment to increase the contrast of the dark portion without losing the contrast of the light.
다음으로, 고주파 성분 복원 계수를 결정(S140 단계)한다. 상세히, 에지(edge)와 같은 고주파 성분을 부가적으로 복원하기 위한 복원 계수를 결정하여 고주파 성분을 복원함으로써, 입력 영상에 비해 감소된 출력 영상의 세부 정보를 복원할 수 있으며, 따라서 선명도가 향상된 출력 영상을 얻을 수 있다. 여기서, 고주파 성분 함수 S는 상술한 바와 같이 수학식 7에 의해서 구할 수 있다. 그리고, 이와 같은 고주파 성분 복원 함수 S를 더하여, 수학식 6에 정의된 비선형 전달 함수 T는 상술한 수학식 8과 같이 재정의될 수 있다. Next, the high frequency component recovery coefficient is determined (step S140). In detail, by restoring the high frequency component by determining a recovery coefficient for additionally restoring the high frequency component such as an edge, it is possible to restore the detail information of the output image, which is reduced compared to the input image, and thus improves the sharpness of the output. You can get a video. Here, the high frequency component function S can be obtained by Equation 7 as described above. And, by adding the high frequency component recovery function S, the nonlinear transfer function T defined in Equation 6 may be redefined as in Equation 8 described above.
상술한 S110 단계부터 S140 단계까지를 거쳐서 3차원 감마 보정을 위한 테이 블이 생성된다. The table for three-dimensional gamma correction is generated through the above-described step S110 to step S140.
다음으로, 상기 생성된 3차원 감마 보정을 위한 테이블에 기초하여, 영상 파일의 입력 휘도 레벨을 보정하여 출력한다. Next, the input luminance level of the image file is corrected and output based on the generated 3D gamma correction table.
이를 위하여 먼저, 영상의 밝기를 보정(S150 단계) 한다. 즉, 상술한 수학식 6으로 정의된 3차원 감마 보정을 위한 전달 함수(transfer function) T를 통해, 입력 영상의 휘도 성분을 보정하여 출력 영상의 밝기를 조절한다.To this end, first, the brightness of the image is corrected (S150). That is, the brightness component of the output image is adjusted by correcting the luminance component of the input image through a transfer function T for the three-dimensional gamma correction defined by Equation (6).
다음으로, 고주파 성분을 복원(S160 단계)한다. 즉, 상술한 수학식 6에, 상기 S140 단계에서 정의된 고주파 성분 함수 S가 더하여져서 수학식 8로 재정의된, 3차원 감마 보정을 위한 전달 함수(transfer function) T를 통해, 입력 영상의 휘도 성분을 보정하여 출력 영상의 밝기를 조절한다. Next, the high frequency component is restored (step S160). That is, the above-described equation (6), the high-frequency component function S defined in the step S140 is added to the luminance component of the input image through a transfer function T for three-dimensional gamma correction, which is redefined by Equation (8) To adjust the brightness of the output image.
상술한 S150 단계 및 S160 단계를 거쳐서 영상 파일의 입력 휘도 레벨을 보정하여 출력하게 되는 것이다. The input luminance level of the image file is corrected and output through the above-described steps S150 and S160.
마지막으로, 휘도 성분의 변화량에 따라 감소된 색상의 채도를 보정(S170 단계) 한다. 상세히, YCbCr 데이터에서 색상 성분 즉, Cb 및 Cr 성분을 그대로 둔 채 휘도 성분 즉, Y 성분만을 보정 할 경우, 물감에 물을 많이 넣어서 물이 빠진 것처럼 채도가 감소된 영상이 출력된다. 이 경우, 사용자가 육안으로 관찰하기에는 컨트라스트가 개선된 장점보다 채도가 감소된 단점이 부각되는 문제점이 발생할 수 있다. 이러한 문제점을 해결하기 위하여, 본 발명에서는 휘도 성분의 보정 후, 채도를 보정 할 수 있다. 이때, RGB 포맷으로 영상을 출력할 경우에는 상술한 수학식 8에 의하여 출력 영상의 채도를 보정하고, YCbCr 포맷으로 영상을 출력할 경우에는 상술한 수학식 9에 의하여 출력 영상의 채도를 보정한다. Finally, the saturation of the reduced color according to the change amount of the luminance component is corrected (step S170). In detail, in the YCbCr data, when only the luminance component, that is, the Y component, is corrected while the color component, that is, the Cb and Cr components are left as it is, an image with reduced saturation is output as if the water is dropped by adding a lot of water to the paint. In this case, the user may observe the disadvantage that the saturation is reduced rather than the advantage that the contrast is improved to the naked eye. In order to solve this problem, in the present invention, the chroma can be corrected after the correction of the luminance component. In this case, when the image is output in the RGB format, the saturation of the output image is corrected according to Equation 8 described above, and when the image is output in the YCbCr format, the saturation of the output image is corrected according to Equation 9 described above.
이와 같은 본 발명에 의해서, 비선형 전달 함수 생성 시, 주변 화소들과의 상관 관계를 고려하여 1:다 대응 함수를 만들어서, 주변 화소들과의 상관 관계에 따라 각각 다른 감마 보정을 수행하도록 함으로써, 로컬 컨트라스트를 개선하고, 변곡점 부근에서의 표현 범위의 감소를 줄이는 효과를 얻을 수 있다. According to the present invention, when the nonlinear transfer function is generated, a 1: multi correspondence function is created in consideration of correlations with neighboring pixels, and different gamma corrections are performed according to correlations with neighboring pixels. It is possible to obtain the effect of improving the contrast and reducing the reduction of the expression range near the inflection point.
이제까지 본 발명에 대하여 그 바람직한 실시 예들을 중심으로 살펴보았다. 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자는 본 발명이 본 발명의 본질적인 특성에서 벗어나지 않는 범위에서 변형된 형태로 구현될 수 있음을 이해할 수 있을 것이다. 그러므로 개시된 실시 예들은 한정적인 관점이 아니라 설명적인 관점에서 고려되어야 한다. 본 발명의 범위는 전술한 설명이 아니라 특허청구범위에 나타나 있으며, 그와 동등한 범위 내에 있는 모든 차이점은 본 발명에 포함된 것으로 해석되어야 할 것이다.So far I looked at the center of the preferred embodiment for the present invention. It will be understood by those skilled in the art that various changes in form and details may be made therein without departing from the spirit and scope of the invention as defined by the appended claims. Therefore, the disclosed embodiments should be considered in an illustrative rather than a restrictive sense. The scope of the present invention is defined by the appended claims rather than by the foregoing description, and all differences within the scope of equivalents thereof should be construed as being included in the present invention.
도 1은 종래의 감마 보정 전달 함수를 나타내는 도면이다. 1 is a diagram illustrating a conventional gamma correction transfer function.
도 2는 도 1의 감마 보정 전달 함수를 이용하여 감마 보정을 수행한 영상을 나타내는 도면이다. FIG. 2 is a diagram illustrating an image in which gamma correction is performed using the gamma correction transfer function of FIG. 1.
도 3은 본 발명의 일 실시예에 관한 디지털 영상 처리 장치의 앞쪽 및 위쪽 외형을 보여주는 사시도이다.3 is a perspective view illustrating a front side and an upper side of a digital image processing apparatus according to an exemplary embodiment of the present invention.
도 4는 도 3에 도시된 디지털 영상 처리 장치의 뒤쪽 외형을 보여주는 배면도이다.FIG. 4 is a rear view illustrating a rear shape of the digital image processing apparatus of FIG. 3.
도 5는 도 3 및 도 4에 도시된 디지털 영상 처리 장치의 구성을 보이는 블록도이다.FIG. 5 is a block diagram illustrating a configuration of the digital image processing apparatus illustrated in FIGS. 3 and 4.
도 6은 도 5의 디지털 신호 처리부의 상세 블록도이다. FIG. 6 is a detailed block diagram of the digital signal processor of FIG. 5.
도 7은 본 발명의 일 실시예에 관한 3차원 감마 테이블을 나타내는 도면이다. 7 is a diagram illustrating a three-dimensional gamma table according to an embodiment of the present invention.
도 8a는 원본 영상을 나타내는 도면이다. 8A is a diagram illustrating an original image.
도 8b는 종래의 감마 보정 전달 함수를 이용하여, 도 8a의 원본 영상에 감마 보정을 수행한 영상을 나타내는 도면이다. FIG. 8B is a diagram illustrating an image in which gamma correction is performed on the original image of FIG. 8A by using a conventional gamma correction transfer function.
도 8c는 본 발명의 일 실시예에 관한 감마 보정 전달 함수를 이용하여, 도 8a의 원본 영상에 감마 보정을 수행한 영상을 나타내는 도면이다. FIG. 8C is a diagram illustrating an image in which gamma correction is performed on an original image of FIG. 8A by using a gamma correction transfer function according to an embodiment of the present invention.
도 9a는 도 8b에 사용된 종래의 감마 보정 전달 함수를 나타내는 도면이다. FIG. 9A illustrates a conventional gamma correction transfer function used in FIG. 8B.
도 9b는 도 8c에 사용된 본 발명의 일 실시예에 관한 감마 보정 전달 함수를 나타내는 도면이다. FIG. 9B is a diagram illustrating a gamma correction transfer function according to one embodiment of the present invention used in FIG. 8C.
도 10은 본 발명에 관한 디지털 영상 처리 장치의 제어 방법을 보여주는 흐름도이다. 10 is a flowchart illustrating a control method of a digital image processing apparatus according to the present invention.
<도면의 주요 부분에 대한 부호의 설명><Explanation of symbols for the main parts of the drawings>
100: 디지털 영상 처리 장치 121: 사용자 입력부100: digital image processing apparatus 121: user input unit
123: 촬상부 125: 영상 처리부123: imaging unit 125: image processing unit
127: 저장부 130: 디지털 신호 처리부127: storage unit 130: digital signal processing unit
131: 감마 테이블 생성부 132: 컨트라스트 보정부131: gamma table generator 132: contrast correction unit
133: 채도 보정부 134: 제어부133: saturation correction unit 134: control unit
Claims (23)
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020080096706A KR101299250B1 (en) | 2008-10-01 | 2008-10-01 | Apparatus and method for digital picturing image |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020080096706A KR101299250B1 (en) | 2008-10-01 | 2008-10-01 | Apparatus and method for digital picturing image |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20100037394A KR20100037394A (en) | 2010-04-09 |
KR101299250B1 true KR101299250B1 (en) | 2013-08-22 |
Family
ID=42214611
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020080096706A KR101299250B1 (en) | 2008-10-01 | 2008-10-01 | Apparatus and method for digital picturing image |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR101299250B1 (en) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20070042376A (en) * | 2005-10-18 | 2007-04-23 | 삼성에스디아이 주식회사 | Apparatus of driving plasma display panel |
KR20070053028A (en) * | 2005-11-18 | 2007-05-23 | 삼성전자주식회사 | Contrast enhancement apparatus and the contrast enhancement method thereof |
-
2008
- 2008-10-01 KR KR1020080096706A patent/KR101299250B1/en active IP Right Grant
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20070042376A (en) * | 2005-10-18 | 2007-04-23 | 삼성에스디아이 주식회사 | Apparatus of driving plasma display panel |
KR20070053028A (en) * | 2005-11-18 | 2007-05-23 | 삼성전자주식회사 | Contrast enhancement apparatus and the contrast enhancement method thereof |
Also Published As
Publication number | Publication date |
---|---|
KR20100037394A (en) | 2010-04-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101427660B1 (en) | Apparatus and method for blurring an image background in digital image processing device | |
US20160371821A1 (en) | Image processing device, imaging device, image processing method, and program | |
US8395694B2 (en) | Apparatus and method for blurring image background in digital image processing device | |
KR101099401B1 (en) | Image processing apparatus and computer-readable medium | |
JP4210021B2 (en) | Image signal processing apparatus and image signal processing method | |
JP5412553B2 (en) | Visual processing device and visual processing method | |
CN107534733B (en) | Image pickup apparatus, image processing method of the same, and medium | |
US20100103268A1 (en) | Digital camera | |
JP2010213213A (en) | Imaging device and imaging method | |
JP2013034261A (en) | Imaging apparatus and imaging method | |
KR20130031572A (en) | Image processing method and image processing apparatus | |
KR20080101277A (en) | Digiatal image process apparatus for displaying histogram and method thereof | |
JP2011228807A (en) | Image processing program, image processing apparatus, and image processing method | |
US10395347B2 (en) | Image processing device, imaging device, image processing method, and image processing program | |
JP5794475B2 (en) | Imaging device | |
CN106412391B (en) | Image processing apparatus, image processing method, and image capturing apparatus | |
US8781226B2 (en) | Digital image processing apparatus for recognizing fireworks, method of operating the same, and computer-readable storage medium | |
KR101299250B1 (en) | Apparatus and method for digital picturing image | |
KR101750986B1 (en) | An apparatus and a method for processing image, and a computer-readable storage medium | |
KR101421939B1 (en) | Apparatus and method for processing digital image using face detection function | |
KR20100094201A (en) | Apparatus and method for digital picturing image | |
WO2022163440A1 (en) | Information processing apparatus, imaging apparatus, information processing method, and program | |
KR101411326B1 (en) | Apparatus and method for retouching of image in digital image processing device | |
KR101411310B1 (en) | Apparatus and method for compositing image in digital image device | |
JP4954658B2 (en) | Image processing device |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A201 | Request for examination | ||
E902 | Notification of reason for refusal | ||
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant | ||
FPAY | Annual fee payment |
Payment date: 20160722 Year of fee payment: 4 |
|
FPAY | Annual fee payment |
Payment date: 20170728 Year of fee payment: 5 |
|
FPAY | Annual fee payment |
Payment date: 20180726 Year of fee payment: 6 |
|
FPAY | Annual fee payment |
Payment date: 20190729 Year of fee payment: 7 |