KR101828411B1 - 영상 처리 방법 및 영상 처리 장치 - Google Patents
영상 처리 방법 및 영상 처리 장치 Download PDFInfo
- Publication number
- KR101828411B1 KR101828411B1 KR1020110095233A KR20110095233A KR101828411B1 KR 101828411 B1 KR101828411 B1 KR 101828411B1 KR 1020110095233 A KR1020110095233 A KR 1020110095233A KR 20110095233 A KR20110095233 A KR 20110095233A KR 101828411 B1 KR101828411 B1 KR 101828411B1
- Authority
- KR
- South Korea
- Prior art keywords
- noise
- blocks
- unit
- frequency component
- luminance signal
- Prior art date
Links
- 238000012545 processing Methods 0.000 title claims abstract description 52
- 238000003672 processing method Methods 0.000 title abstract description 9
- 238000001914 filtration Methods 0.000 claims description 52
- 238000000034 method Methods 0.000 claims description 43
- 230000006837 decompression Effects 0.000 claims description 7
- 230000008569 process Effects 0.000 claims description 6
- 230000001131 transforming effect Effects 0.000 claims description 6
- 230000002146 bilateral effect Effects 0.000 claims description 5
- 238000006243 chemical reaction Methods 0.000 claims description 4
- 238000000926 separation method Methods 0.000 claims description 4
- 230000009466 transformation Effects 0.000 claims 1
- 238000003708 edge detection Methods 0.000 description 7
- 230000000875 corresponding effect Effects 0.000 description 6
- 238000010586 diagram Methods 0.000 description 6
- 230000006835 compression Effects 0.000 description 5
- 238000007906 compression Methods 0.000 description 5
- 238000000605 extraction Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 230000008030 elimination Effects 0.000 description 3
- 238000003379 elimination reaction Methods 0.000 description 3
- 238000003384 imaging method Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000009467 reduction Effects 0.000 description 3
- 239000004065 semiconductor Substances 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000012937 correction Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000014509 gene expression Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000003825 pressing Methods 0.000 description 2
- 230000035945 sensitivity Effects 0.000 description 2
- 230000004075 alteration Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000004907 flux Effects 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 238000003709 image segmentation Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012805 post-processing Methods 0.000 description 1
- 230000011514 reflex Effects 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/30—Noise filtering
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/46—Colour picture communication systems
- H04N1/56—Processing of colour picture signals
- H04N1/58—Edge or detail enhancement; Noise or error suppression, e.g. colour misregistration correction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/61—Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
- H04N25/611—Correction of chromatic aberration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20048—Transform domain processing
- G06T2207/20064—Wavelet transform [DWT]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20172—Image enhancement details
- G06T2207/20192—Edge enhancement; Edge preservation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/81—Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
- Picture Signal Circuits (AREA)
Abstract
본 발명은 영상 내에서 잡음을 제거하는 영상 처리 방법 및 영상 처리 장치에 관한 것이다. 영상 처리 방법은 입력 영상을 휘도신호 및 색차신호로 분리하는 단계; 상기 분리된 휘도신호의 잡음을 제거하고, 상기 제거된 잡음 내에 존재하는 상기 휘도신호를 복원하는 단계; 상기 분리된 색차신호의 잡음을 제거하는 단계; 및 상기 잡음이 제거된 휘도신호 및 색차신호를 결합하는 단계를 포함한다. 본 발명에 따르면, 잡음의 세기가 심한 저조도, 고감도 환경뿐만 아니라 일반 환경에서도 에지 성분이 잘 보존되면서 컬러 잡음 정도가 우수한 영상을 생성할 수 있다.
Description
본 발명은 영상 내에서 잡음을 제거하는 영상 처리 방법 및 영상 처리 장치에 관한 것이다.
종래의 잡음 제거 기술은 다해상도 영상 분리 기법을 이용하여 변환 평면에서 각각의 부대역(subband)에 대해 잡음을 제거하는 방법과 영상을 블록으로 나누어 유사한 블록들을 모아서 잡음을 제거하는 방법이 있다. 그러나 종래의 잡음 제거 기술은 실제 영상의 잡음과는 다르게 독립적인 가우시안(gaussian) 잡음을 모델로 하는 경우가 많다. 촬영된 영상의 잡음은 신호 의존적인 잡음이므로 종래 방법 등 이용하여 잡음을 제거하는 경우 잡음 제거 효과를 기대하기 어렵다. 종래의 잡음 제거 기술 중 BM3D(block matching in three dimension) 및 VBM3D(video block matching in three dimension) 방법은 영상의 잡음을 2 단계로 나누어 제거하는데, 두 번째 단계는 계산량이 많고 하드웨어 구현이 어렵다. 또한 잡음 제거 영상에서 휘도 채널의 잡음은 잘 제거되지만 두 번째 단계에서 중복 계산되어 잡음 제거가 이루어지는 부분이 있다. 또한 Noise Brush 방법은 1차로 잡음이 제거된 영상이 있어야만 적용할 수 있는 후처리 방법으로, 사용자가 방법을 적용할 영역을 수동으로 지정해야 한다.
본 발명이 해결하고자 하는 기술적인 과제는 일반 환경에서뿐만 아니라 저조도, 고감도 환경에서 발생되는 영상 내의 잡음을 제거하는 영상 처리 방법 및 영상 처리 장치를 제공하는데 있다.
본 발명이 이루고자 하는 기술적인 과제를 해결하기 위한 영상 처리 방법은 입력 영상을 휘도신호 및 색차신호로 분리하는 단계; 상기 분리된 휘도신호의 잡음을 제거하고, 상기 제거된 잡음 내에 존재하는 상기 휘도신호를 복원하는 단계; 상기 분리된 색차신호의 잡음을 제거하는 단계; 및 상기 잡음이 제거된 휘도신호 및 색차신호를 결합하는 단계를 포함하는 것이 바람직하다.
본 발명에 있어서, 상기 휘도신호의 잡음 제거 단계는 블록 매칭을 통하여 유사도가 임계값 보다 작은 블록들을 그룹화하는 단계; 상기 그룹화된 블록을 3D 웨이블릿 변환하는 단계; 상기 3D 웨이블릿 변환된 상기 그룹화된 블록을 3D 임계 처리하는 단계; 상기 3D 임계처리된 그룹화된 블록을 역 3D 웨이블릿 변환하는 단계; 및 상기 역 3D 웨이블릿 변환된 그룹화된 블록을 원 위치로 복원하는 단계를 포함하는 것을 특징으로 한다.
본 발명에 있어서, 상기 블록 그룹화 단계는 상기 휘도신호 영상을 복수개의 블록으로 나누는 단계; 상기 블록들 중 다수의 기준블록을 설정하고, 상기 기준블록들을 이용하여 상기 휘도신호 영상을 스캔하는 단계; 및 상기 스캔한 블록들과 상기 기준블록들의 차이가 임계값 보다 작은 블록들을 유사도가 높다고 판단하고 그룹화 하는 단계를 포함하는 것을 특징으로 한다.
본 발명에 있어서, 상기 3D 임계 처리 단계는 임계값의 절대값 사이에 위치한 상기 그룹화된 블록들은 잡음으로 판단하여 제거하는 단계; 및 상기 임계값의 절대값 사이 이외에 위치한 상기 그룹화된 블록들은 유효한 영상으로 판단하여 유지하는 단계를 포함하는 것을 특징으로 한다.
본 발명에 있어서, 상기 그룹화된 블록의 원 위치 복원단계에서 서로 다른 상기 기준 블록에 대해 중복되어 사용된 유사도가 높은 블록들은 상기 복원 시에 가중치 평균값이 적용되는 것을 특징으로 한다.
본 발명에 있어서, 상기 휘도신호 복원 단계는 상기 잡음이 제거된 휘도신호로부터 에지를 검출하는 단계; 상기 검출된 에지를 확장하여 필터링될 영역을 생성하는 단계; 블록 매칭을 통하여 유사도가 높은 그룹화 블록 및 잡음이 제거된 유사도가 높은 그룹화 블록간 차이에 해당하는 블록의 상기 필터링 영역 내에서 기울기 벡터 성분 및 바이래터럴 필터 성분을 이용하여 잘못 제거된 블록을 추출하는 단계; 및 상기 추출된 블록을 상기 휘도신호로 복원하는 단계를 포함하는 것을 특징으로 한다.
본 발명에 있어서, 상기 분리된 색차신호의 잡음 제거 단계는 상기 색차신호를 웨이블릿 변환하는 단계; 상기 웨이블릿 변환된 신호를 고주파 성분 및 저주파 성분으로 분리하는 단계; 상기 저주파 성분의 잡음을 제거하는 단계; 상기 고주파 성분의 잡음을 제거하는 단계; 상기 잡음이 제거된 저주파 성분 및 고주파 성분을 결합하는 단계; 및 상기 결합된 저주파 성분 및 고주파 성분을 역 웨이블릿 변환하는 단계를 포함하는 것을 특징으로 한다.
본 발명에 있어서, 상기 저주파 성분의 잡음 제거 단계는 블록 매칭을 통하여 유사도가 임계값 보다 작은 블록들을 그룹화하는 단계; 상기 그룹화된 블록을 3D 웨이블릿 변환하는 단계; 상기 3D 웨이블릿 변환된 상기 그룹화된 블록을 3D 임계 처리하는 단계; 상기 3D 임계처리된 그룹화된 블록을 역 3D 웨이블릿 변환하는 단계; 및 상기 역 3D 웨이블릿 변환된 그룹화된 블록을 원 위치로 복원하는 단계를 포함하는 것을 특징으로 한다.
본 발명에 있어서, 상기 블록 그룹화 단계는 상기 저주파 성분의 영상을 복수개의 블록으로 나누는 단계; 상기 블록들 중 다수의 기준블록을 설정하고, 상기 기준블록들을 이용하여 상기 휘도신호 영상을 스캔하는 단계; 및 상기 스캔한 블록들과 상기 기준블록들의 차이가 임계값 보다 작은 블록들을 유사도가 높다고 판단하고 그룹화 하는 단계를 포함하는 것을 특징으로 한다.
본 발명에 있어서, 상기 3D 임계 처리 단계는 임계값의 절대값 사이에 위치한 상기 그룹화된 블록들을 잡음으로 판단하여 제거하는 단계; 및 상기 임계값의 절대값 사이 이외에 위치한 상기 그룹화된 블록들을 유효한 영상으로 판단하여 유지하는 단계를 포함하는 것을 특징으로 한다.
본 발명에 있어서, 상기 그룹화된 블록의 원 위치 복원단계에서 서로 다른 상기 기준 블록에 대해 중복되어 사용된 유사도가 높은 블록들은 상기 복원 시에 가중치 평균값이 적용되는 것을 특징으로 한다.
본 발명에 있어서, 상기 고주파 성분의 잡음 제거 단계는 임계값의 절대값 사이에 위치한 상기 고주파 성분을 잡음으로 판단하여 제거하는 단계; 및 상기 임계값의 절대값 사이 이외에 위치한 상기 고주파 성분을 유효한 영상으로 판단하여 유지하는 단계를 포함하는 것을 특징으로 한다.
본 발명이 이루고자 하는 기술적인 과제를 해결하기 위한 영상 처리 장치는 입력 영상을 휘도신호 및 색차신호로 분리하는 분리부; 상기 분리된 휘도신호의 잡음을 제거하고, 상기 제거된 잡음 내에 존재하는 상기 휘도신호를 복원하는 제1 잡음 제거부; 상기 분리된 색차신호의 잡음을 제거하는 제2 잡음 제거부; 및 상기 잡음이 제거된 휘도신호 및 색차신호를 결합하여 출력하는 출력부를 포함하는 것이 바람직하다.
본 발명에 있어서, 상기 입력 영상의 색신호(RGB)를 휘도신호(Y) 및 색차신호(CbCr)로 변환하는 변환부를 더 포함하는 것을 특징으로 한다.
본 발명에 있어서, 상기 제1 잡음 제거부는 블록 매칭을 통하여 유사도가 임계값 보다 작은 블록들을 그룹화하는 블록 매칭부; 상기 그룹화된 블록을 3D 웨이블릿 변환하는 변환부; 상기 3D 웨이블릿 변환된 상기 그룹화된 블록을 3D 임계 처리하는 임계 처리부; 상기 3D 임계처리된 그룹화된 블록을 역 3D 웨이블릿 변환하는 역변환부; 및 상기 역 3D 웨이블릿 변환된 그룹화된 블록을 원 위치로 복원하는 복원부를 포함하는 것을 특징으로 한다.
본 발명에 있어서, 상기 제1 잡음 제거부는 상기 잡음이 제거된 휘도신호로부터 에지를 검출하는 검출부; 상기 검출된 에지를 확장하여 필터링될 영역을 생성하는 생성부; 블록 매칭을 통하여 유사도가 높은 그룹화 블록 및 잡음이 제거된 유사도가 높은 그룹화 블록간 차이에 해당하는 블록의 상기 필터링 영역 내에서 기울기 벡터 성분 및 바이래터럴 필터 성분을 이용하여 잘못 제거된 블록을 추출하는 필터링부; 및 상기 추출된 블록을 상기 휘도신호로 복원하는 복원부를 포함하는 것을 특징으로 한다.
본 발명에 있어서, 상기 제2 잡음 제거부는 상기 색차신호를 웨이블릿 변환하는 변환부; 상기 웨이블릿 변환된 신호를 고주파 성분 및 저주파 성분으로 분리하는 분리부; 상기 저주파 성분의 잡음을 제거하는 제1 필터링부; 상기 고주파 성분의 잡음을 제거하는 제2 필터링부; 상기 잡음이 제거된 저주파 성분 및 고주파 성분을 결합하는 결합부; 및 상기 결합된 저주파 성분 및 고주파 성분을 역 웨이블릿 변환하는 역변환부를 포함하는 것을 특징으로 한다.
본 발명에 있어서, 제1 필터링부는 블록 매칭을 통하여 유사도가 임계값 보다 작은 블록들을 그룹화하는 블록 매칭부; 상기 그룹화된 블록을 3D 웨이블릿 변환하는 변환부; 상기 3D 웨이블릿 변환된 상기 그룹화된 블록을 3D 임계 처리하는 임계 처리부; 상기 3D 임계처리된 그룹화된 블록을 역 3D 웨이블릿 변환하는 역변환부; 및 상기 역 3D 웨이블릿 변환된 그룹화된 블록을 원 위치로 복원하는 복원부를 포함하는 것을 특징으로 한다.
본 발명에 있어서, 제2 필터링부는 임계값의 절대값 사이에 위치한 상기 고주파 성분을 잡음으로 판단하여 제거하고, 상기 임계값의 절대값 사이 이외에 위치한 상기 고주파 성분을 유효한 영상으로 판단하여 유지하는 것을 특징으로 한다.
상술한 바와 같이 본 발명에 따르면, 잡음의 세기가 심한 저조도, 고감도 환경뿐만 아니라 일반 환경에서도 에지 성분이 잘 보존되면서 컬러 잡음 정도가 우수한 영상을 생성할 수 있다.
도 1은 본 발명에 따른 영상 처리 장치를 나타내는 블록도 이다.
도 2는 도 1에 도시된 영상 신호 처리부의 일 실시 예에 따른 블록도 이다.
도 3은 도 2 중 휘도신호 잡음 제거부 및 색차신호 잡음 제거부의 상세도 이다.
도 4는 도 3 중 3-D collaborative 필터링부의 상세도 이다.
도 5는 도 3 중 강한 임계 처리(hard thresholding)를 설명하기 위한 도면이다.
도 6은 도 3 중 변형된 joint image-noise 필터링부의 상세도 이다.
도 7은 종래의 잡음 제거 결과 영상 및 본 발명에 따른 잡음 제거 결과 영상을 보이는 도면이다.
도 8은 본 발명에 따른 영상 처리 방법을 보이는 흐름도 이다.
도 9는 도 8 중 휘도신호의 잡음 제거 방법을 보이는 흐름도 이다.
도 10은 도 8 중 제거된 잡음 내에 존재하는 휘도신호 복원 방법을 보이는 흐름도 이다.
도 11은 도 8 중 색차신호의 잡음 제거 방법을 보이는 흐름도 이다.
도 2는 도 1에 도시된 영상 신호 처리부의 일 실시 예에 따른 블록도 이다.
도 3은 도 2 중 휘도신호 잡음 제거부 및 색차신호 잡음 제거부의 상세도 이다.
도 4는 도 3 중 3-D collaborative 필터링부의 상세도 이다.
도 5는 도 3 중 강한 임계 처리(hard thresholding)를 설명하기 위한 도면이다.
도 6은 도 3 중 변형된 joint image-noise 필터링부의 상세도 이다.
도 7은 종래의 잡음 제거 결과 영상 및 본 발명에 따른 잡음 제거 결과 영상을 보이는 도면이다.
도 8은 본 발명에 따른 영상 처리 방법을 보이는 흐름도 이다.
도 9는 도 8 중 휘도신호의 잡음 제거 방법을 보이는 흐름도 이다.
도 10은 도 8 중 제거된 잡음 내에 존재하는 휘도신호 복원 방법을 보이는 흐름도 이다.
도 11은 도 8 중 색차신호의 잡음 제거 방법을 보이는 흐름도 이다.
본 발명은 다양한 변환을 가할 수 있고 여러 가지 실시 예를 가질 수 있는바, 특정 실시 예들을 도면에 예시하고 상세한 설명에 상세하게 설명하고자 한다. 그러나 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의7 사상 및 기술 범위에 포함되는 모든 변환, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 본 발명을 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 발명의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다.
제1, 제2 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 구성요소들은 용어들에 의해 한정되어서는 안 된다. 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.
본 출원에서 사용한 용어는 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
이하, 본 발명의 실시 예를 첨부도면을 참조하여 상세히 설명하기로 하며, 첨부 도면을 참조하여 설명함에 있어, 동일하거나 대응하는 구성 요소는 동일한 도면번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다.
도 1은 본 발명에 관한 영상 처리 장치를 나타낸 블럭도이다. 도 1에서는 영상 처리 장치의 예로 디지털 카메라(100)를 도시한다. 그러나 본 발명에 의한 영상 처리 장치는 도 1의 디지털 카메라(100)에 한정되지 않고, 디지털 일안 반사식 카메라(digital single-lens reflex camera, DSLR), 하이브리드 카메라(hybrid camera) 외에도 다양한 디지털 기기로 구현될 수 있다. 도 1에 도시된 디지털 카메라(100)의 구성을 설명함에 있어서, 동작에 따라 상세히 설명한다.
우선 피사체를 촬영하는 과정에 대해 설명하면, 피사체로부터의 광속은 촬상부(110)의 광학계인 줌 렌즈(111) 및 포커스 렌즈(113)를 투과하고, 조리개(115)의 개폐 정도에 따라 그 광량이 조정된 후, 촬상 소자(117)의 수광면에 이르러 피사체의 상이 결상된다. 촬상 소자(117)의 수광면에 결상되는 상은 광전 변환 처리에 의하여 전기적인 영상 신호로 변환된다.
촬상 소자(117)로는 광학 신호를 전기 신호로 변환하는 CCD(Charge Coupled Device) 또는 CIS(Complementary Metal Oxide Semiconductor Image Sensor) 등을 사용할 수 있다. 조리개(115)는 통상 상태 또는 릴리스 버튼을 반쯤 눌러 형성된 첫 번째 릴리스 신호를 받고 행해지는 오토포커싱 알고리즘 실행시에는 개방 상태가 되고, 상기 릴리스 버튼을 지그시 눌러 형성된 두 번째 릴리스 신호를 받아 노출 처리가 실행될 수 있다.
상기 줌 렌즈(111) 및 포커스 렌즈(113)는 각각 줌 렌즈 구동부(112) 포커스 렌즈 구동부(113)에 의해 그 위치 등이 제어된다. 예를 들어 광각(wide angle)-줌 신호가 발생하면 줌 렌즈(111)의 포커스 거리(focal length)가 짧아져서 화각이 넓어지고, 망원(telephoto)-줌 신호가 발생하면 줌 렌즈(111)의 포커스 거리가 길어져서 화각이 좁아진다. 줌 렌즈(111)의 위치가 설정된 상태에서 포커스 렌즈(113)의 위치가 조정되므로, 화각은 포커스 렌즈(113)의 위치에 대하여 거의 영향을 받지 않는다. 조리개(115)는 조리개 구동부(114)에 의해 개방 정도 등이 제어된다. 촬상 소자(117)도 촬상 소자 제어부(118)에 의해 감도 등이 제어된다.
이들 줌 렌즈 구동부(112), 포커스 렌즈 구동부(114), 조리개 구동부(116), 및 촬상 소자 제어부(118)는 노출 정보, 초점 정보 등을 기준으로 CPU(190)에서 연산된 결과에 따라 해당 구성부들을 제어한다.
그리고 영상 신호 형성 과정에 관하여 설명하면, 촬상 소자(121)로부터 출력된 영상 신호는 영상 신호 처리부(120)에 출력된다. 영상 신호 처리부(120)에서는 촬상 소자(117)로부터 입력되는 영상 신호가 아날로그 신호인 경우 디지털 신호로 변환하고, 변환된 디지털 영상 신호에 대하여 각종의 화상 처리가 행해진다. 이러한 처리가 행해진 영상 신호는 기억부(130)에 임시 저장된다.
구체적으로 영상 신호 처리부(120)는 사람의 시각에 맞게 영상 데이터를 변환하도록 오토 화이트 밸런스(Auto White Balance)나 오토익스포저(Auto Exposure), 감마 코렉션(Gamma Correction) 등의 신호 처리를 행하여 화질을 개선하고, 개선된 화질의 영상 신호를 출력하는 역할을 한다. 또한, 신호 처리부(130)에서 색필터 배열보간(color filter array interpolation), 색 매트릭스(color matrix), 색보정(color correction), 색 향상(color enhancement) 등의 영상 처리를 수행하게 된다.
특히 본 발명의 영상 신호 처리부(120)는 RGB 입력 영상 신호를 YCbCr 입력 영상 신호로 변환하고, YCbCr 입력 영상 신호를 휘도신호(Y) 및 색차신호(CbCr)로 분리한다. 이어서, 분리된 휘도신호(Y)의 잡음을 제거하고, 제거된 잡음 내에 존재하는 휘도신호(Y) 를 복원하고, 분리된 색차신호(CbCr)의 잡음을 제거한 후, 잡음이 제거된 휘도신호(Y) 및 색차신호(CbCr)를 결합하여 노이즈가 제거된 최종 영상 신호를 생성한다. 이러한 영상 신호 처리부(120)의 동작에 관해서는 이하 도 2 내지 도 7에서 자세히 후술한다.
기억부(130)는 전원의 공급 여부와 관계없이 상기 디지털 카메라(100)의 동작에 관한 프로그램이 저장되는 프로그램 기억부와, 전원이 공급되는 동안 상기 영상 데이터와 그 밖에 데이터들을 임시 저장하는 주기억부를 구비할 수 있다.
프로그램 기억부에는 디지털 카메라(100)를 작동하는 운영 프로그램 및 다양한 응용 프로그램들이 저장되어 있다. 그리고 상기 프로그램 기억부에 저장된 프로그램들에 따라 CPU(190)는 각 구성부들을 제어한다.
주기억부는 영상 신호 처리부(120) 또는 보조 기억부(140) 등으로부터 출력된 영상 신호를 임시로 저장한다.
상기 주기억부는 디지털 카메라(100)가 동작하도록 전원이 공급되는 것과 별개로, 전원부(160)가 직접 연결될 수 있다. 따라서 디지털 카메라(100)가 부팅을 빨리 하도록 미리 프로그램 기억부에 저장된 코드를 주기억부에 복사 및 실행 가능한 코드로 변경할 수 있으며, 또한 디지털 카메라(100)를 재 부팅하는 경우 상기 주기억부에 저장된 데이터들을 빨리 읽어 올 수 있다.
주기억부에 저장된 영상 신호는 표시 구동부(155)로 출력되어 아날로그 신호로 변환되는 것과 동시에 표시 출력하는데 있어서 최적인 형태의 영상 신호로 변환된다. 그리고 변환된 상기 영상 신호는 표시부(150)에 디스플레이 되어 소정 영상으로 사용자에게 보여 질 수 있다. 상기 표시부(150)는 촬영 모드를 진행하는 동안에 촬상 소자(117)에 의해 얻어진 영상 신호를 연속적으로 표시하여 촬영 범위를 결정하기 위한 뷰 파인더 수단으로서의 역할을 하기도 한다. 이와 같은 표시부(150)로 액정 표시장치(LCD), 유기 발광 표시장치(OLED), 전기 영동 표시장치(EDD) 등 다양한 표시장치가 사용될 수 있다.
상기와 같이 생성된 영상 신호를 기록하는 과정에 대해서 설명하면, 상기 영상 신호는 기억부(130)에 임시 저장되고, 이때 보조 기억부(140)에는 상기 영상 신호뿐만 아니라 상기 영상 신호에 관한 다양한 정보가 함께 저장된다. 그리고 저장된 영상 신호와 정보는 압축/신장부(145)에 출력된다. 압축/신장부(1450)에서는 압축 회로에 의해 저장을 위한 최적의 형태로 압축 처리 즉, JPEG과 같은 부호화 처리가 행해져 이미지 파일을 형성하고, 상기 이미지 파일은 보조 기억부(140)에 저장된다.
보조 기억부(140)로 외장형의 플래시 메모리 등의 고정형의 반도체 메모리나, 카드 형상이나 스틱 형상으로 되고 장치에 대하여 착탈이 자유롭게 가능한 카드형 플래시 메모리 등의 반도체 메모리 외 하드 디스크나 플로피 디스크 등의 자기 기억 매체 등의 다양한 형태의 것이 사용될 수 있다.
영상을 재생하는 과정을 설명하면, 보조 기억부(140)에 압축되어 기록된 이미지 파일은 압축/신장부(145)에 출력되고 신장 회로에 의해 신장 처리, 즉 복호화 처리가 행해져 상기 이미지 파일로부터 영상 신호를 추출한다. 그리고 상기 영상 신호는 기억부(130)로 출력된다. 상기 영상 신호는 기억부(130)에 임시 저장된 후, 표시 구동부(155)를 통해 표시부(150)에서 소정의 영상으로 재생될 수 있다.
한편, 상기 디지털 카메라(100)는 사용자 등의 외부 신호를 입력 받는 조작부(170)를 포함한다. 상기 조작부(170)로 정해진 시간 동안 촬상 소자(121)에 빛에 노출하기 위해 열리고 닫히는 셔터 릴리즈 버튼, 전원을 공급하기 위해 입력하는 전원 버튼, 입력에 따라 화각을 넓어지게 하거나 화각을 좁아지게 하는 광각-줌 버튼 및 망원-줌 버튼과, 문자 입력 또는 촬영 모드, 재생 모드 등의 모드 선택, 화이트 밸런스 설정 기능 선택, 노출 설정 기능 선택 등의 다양한 기능 버튼들이 있다.
또한, 플래시(181) 및 상기 플래시(181)를 구동하는 플래시 구동부(182)를 포함한다. 플래시(181)는 어두운 곳에서 촬영할 경우 밝은 빛을 순간적으로 비추어 피사체를 밝게 해주는 발광 장치이다.
스피커(183) 및 램프(185) 각각은 음성 신호 및 빛의 신호를 출력하여 디지털 카메라(100)의 동작 상태 등을 알리는 기능을 수행할 수 있다. 특히, 본 발명에서는 수동 모드에서 사용자가 촬영 변수를 설정한 시점과 촬영하고자 하는 시점의 촬영 조건이 변경된 경우, 이를 알리는 알림 신호를 상기 스피커(183) 또는 램프(185)를 통해 경고음, 또는 광신호로서 구현될 수 있다. 상기 스피커(183)는 스피커 구동부(184)에 의해 음성의 종류, 음성 크기 등이 제어되며, 램프(185)는 램프 구동부(186)에 의해 발광 여부, 발광 시간, 발광 종류 등이 제어될 수 있다.
CPU(190)는 기억부(130)에 저장된 운용 시스템 및 응용 프로그램에 따라 연산 처리하고, 상기 연산 결과를 임시 저장하며, 상기 연산 결과에 따라 해당 구성부를 제어하여 상기와 같이 디지털 카메라(100)가 동작하도록 한다.
이하 도 1의 영상 신호 처리부(120)의 일 실시 예에 대하여 도 2 내지 도 7를 참조하여 상세히 설명한다.
도 2를 참조하면, 영상신호 처리부(120)는 영상 변환부(200), 영상 분리부(300), 휘도신호 잡음 제거부(400), 색차신호 잡음 제거부(500) 및 잡음 제거 영상 출력부(600)를 포함한다.
영상 변환부(200)는 RGB 입력 영상 신호를 YCbCr 입력 영상 신호로 변환한다. 잡음 제거 시 상관관계가 높은 RGB 평면 보다 YCbCr 평면에서 잡음을 제거하는 것이 더 효과적이다.
영상 분리부(300)는 변환된 YCbCr 입력 영상 신호를 휘도신호(iY) 및 색차신호(iC)로 분리한다. 컬러 영상의 잡음은 휘도 성분과 색차 성분에 대해서 서로 다른 특성을 보인다. 휘도 잡음은 색차 잡음에 비해 잡음 덩어리의 크기가 작고 고주파 성분이 많다. 색차 잡음은 공간적인 상관 관계가 높아 덩어리가 크고 저주파 성분이 많다. 따라서 휘도 잡음과 색차 잡음을 따로 따로 처리하여 잡음 제거 효과를 높이도록 한다.
휘도신호 잡음 제거부(400)는 분리된 휘도신호(iY)로부터 잡음을 제거하고, 제거된 잡음 내에 존재하는 휘도신호를 복원한다. 색차신호 잡음 제거부(500)는 분리된 색차신호(iC)로부터 잡음을 제거한다. 도 3에는 휘도신호 잡음 제거부(400) 및 색차신호 잡음 제거부(500)의 상세도가 도시되어 있다.
도 3을 참조하면, 휘도신호 잡음 제거부(400)는 3-D collaborative 필터링부(410), 변형된(modified) joint image-noise 필터링부(420) 및 결합부(430)를 포함한다. 먼저 도 3 내지 도 6을 참조하여 휘도신호 잡음 제거를 설명한다.
3-D collaborative 필터링부(410)는 휘도신호(iY) 영상에서 블록 매칭을 수행한 후 비슷한 영상 블록을 그룹화하고 3-D collaborative 필터링을 적용하여 1차로 잡음을 제거한다. 도 4에는 3-D collaborative 필터링부(410)의 상세도가 도시되어 있다.
도 4를 참조하면, 3-D collaborative 필터링부(410)는 블록 매칭부(411), 3-D 웨이블릿 변환부(412), 3-D collaborative 강한 임계 처리부(413), 역 3-D 웨이블릿 변환부(414) 및 블록 복원부(415)를 포함한다.
블록 매칭부(411)는 휘도신호(iY) 영상의 블록 매칭을 통하여 유사도가 임계값 보다 작은 블록들을 그룹화 한다. 블록 매칭부(411)는 먼저, 휘도신호(iY) 영상을 복수 개(N×N)의 블록으로 나누고, 다수의 기준 블록들을 설정한다. 설정된 기준 블록들이 휘도신호(iY) 영상을 스캔하고, 스캔한 각 블록과 임계값을 비교하여 임계값 보다 작은 블록들은 유사도가 높다고 판단하고 그룹화한다. 그러나, 임계값 보다 큰 블록들은 유사도가 낮다고 판단하고 유지한다. 즉, 블록 매칭부(411)는 유사도가 높은 2차원 영상 블록들을 모아 3차원 영상 블록으로 형성한다. 여기서 3차원 영상 블록은 유사도가 임계값 보다 작은 그룹화된 블록을 나타낸다.
3-D 웨이블릿 변환부(412)는 블록 매칭부(411)에서 출력되는 유사도가 임계값 보다 작은 그룹화된 블록에 대해 3-D 웨이블릿 변환을 수행한다. 3-D 웨이블릿 변환부(412)는 각 블록 내에서 2-D 쌍직교(biorthogonal) 웨이블릿 변환 및 블록이 모인 그룹 내에서 1-D 하(Haar) 웨이블릿 변환을 수행하여 그룹화된 블록들의 3-D 웨이블릿 계수를 출력한다. 여기서 biorthogonal 웨이블릿 및 Haar 웨이블릿 변환은 이미 공지된 기술이므로 그 설명은 생략한다.
3-D collaborative 강한 임계 처리부(413)는 3-D 웨이블릿 변환부(412)에서 출력되는 그룹화된 블록들의 3-D 웨이블릿 계수에 강한 임계 처리를 수행한다. 도 5는 강한 임계 처리를 설명하기 위한 도면으로, 3-D collaborative 강한 임계 처리부(413)는 임계값(예를 들어 15)을 설정하고, 임계값의 절대값 사이 즉, -임계값 및 +임계값 사이(예를 들어 -15 및 +15)에 위치하는 그룹화된 블록들은 잡음이라고 판단하여 제거하고, 임계값의 절대값 사이 이외에 위치하는 그룹화된 블록들은 유효한 영상이라고 판단하고 유지한다.
역 3-D 웨이블릿 변환부(414)는 3-D collaborative 강한 임계 처리부(413)에서 출력되는 잡음이 제거된 그룹화된 블록들에 대해 역 3-D 웨이블릿 변환을 수행한다.
블록 복원부(415)는 역 3-D 웨이블릿 변환된 그룹화된 블록을 원래의 위치로 복원시킨다. 이때, 블록 복원부(415)는 서로 다른 기준 블록에 대해 중복되어 사용된 유사도가 높은 블록에 가중치 평균값을 적용하여 복원한다. 여기서 가중치는 강한 임계 처리되어 유효한 영상으로 판단된 웨이블릿 계수의 개수 합이 된다. 이와 같은 동작을 통하여 휘도신호(iY)에 존재하는 잡음을 1차적으로 제거할 수 있다.
변형된 joint image-noise 필터링부(420)는 3-D collaborative 필터링부(410)에 의해 1차 잡음이 제거된 후, 제거된 잡음 내에 존재하는 휘도신호(iY) 즉, 잡음으로 오판하여 잘못 제거된 휘도신호(iY)를 복원한다. 도 6에는 변형된 joint image-noise 필터링부(420)의 상세도가 도시되어 있다.
도 6을 참조하면, 변형된 joint image-noise 필터링부(420)는 에지 검출부(421), 확장 맵 생성부(422), 감산부(423), joint image-noise 필터(424) 및 블록 복원부(425)를 포함한다.
에지 검출부(421)는 블록 매칭부(411)에서 출력되는 유사도가 높은 그룹화된 블록들로부터 에지를 검출한다. 여기서 에지 검출부(421)는 캐니(canny) 에지 검출 방법을 이용하는데, 유사도가 높은 그룹화된 블록들에 가우시안 스무딩 필터링을 수행하고, x 및 y 축으로 기울기 계산 및 기울기의 강도를 수행한 후 히스테리시스(hysteresis)를 수행하여 에지를 검출한다. 에지 검출은 캐니 에지 검출 이외에 소벨(sobel) 에지 추출 방법, 프리윗(prewitt) 에지 추출 방법, 로버츠(Roberts) 에지 추출 방법 등 여러가지가 있으며, 반드시 캐니 에지 추출 방법으로 국한되지 않는다.
확장 맵 생성부(422)는 에지 검출부(421)에서 검출된 에지를 확장하여 필터링될 영역을 생성한다. 후술할 joint image-noise 필터(424)를 추출된 에지에만 적용하면 에지 부근과 인접한 영역간에 왜곡이 발생하게 된다. 이러한 왜곡을 줄이기 위해 검출된 에지를 확장시킨다. 확장 맵은 에지로 판단된 화소를 중심으로 하여 5×5로 확장될 수 있고, 이 확장 맵이 다음에 필터링될 영역이 된다.
감산부(423)는 블록 매칭부(411)에서 출력되는 유사도가 임계값 보다 작은 블록들 및 역 3-D 웨이블릿 변환부(414)에서 출력되는 잡음이 제거된 그룹화된 블록간의 차이를 계산한다. 감산 수행결과는 이상적으로 잡음만이 존재해야 하지만, 실제적으로는 잡음뿐만 아니라 유효한 영상 신호가 존재한다. 따라서 이러한 잘못 제거된 유효한 영상 신호를 복원시켜야 한다.
joint image-noise 필터(424)는 블록 매칭부(411)의 출력 및 역 3-D 웨이블릿 변환부(414)의 출력 감산 결과에 해당하는 블록에, 확장 맵 생성부(422)에서 생성된 필터링 영역을 적용하여 필터링을 수행한다. joint image-noise 필터(424)는 상기 블록의 필터링 영역 내에서 기울기 백터 성분 및 바이래터럴 필터링 성분을 구하고 이를 상기 블록의 필터링 영역과 연산하여 잘못 제거된 유효한 영상 블록을 추출한다.
블록 복원부(425)는 joint image-noise 필터(424)를 통해 추출된 유효한 영상블록을 원래의 위치로 복원시킨다. 이때, 블록 복원부(425)는 서로 다른 기준 블록에 대해 중복되어 사용된 유사도가 높은 블록을 평균하여 복원한다. 이와 같은 동작을 통하여 잘못 제거된 휘도신호(iY)를 복원할 수 있다.
결합부(430)는 3-D collaborative 필터링부(410)에서 출력되는 잡음이 제거된 휘도 신호 및 변형된 joint image-noise 필터링부(420)에서 출력되는 복원된 휘도신호를 결합하여 최종 잡음이 제거된 휘도신호()를 출력한다.
지금까지 휘도 성분의 잡음 제거 및 잘못 제거된 휘도성분 복원에 대해서 설명하였다. 다음에 다시 도 3을 참조하여 색차신호의 잡음 제거를 설명한다.
다시 도 3으로 돌아와서, 색차신호 잡음 제거부(500)는 웨이블릿 변환부(510), 3-D collaborative 필터링부(520), 강한 임계 처리(hard thresholding)부(530), 결합부(540) 및 역 웨이블릿 변환부(550)를 포함한다.
웨이블릿 변환부(510)는 분리된 색차신호(iC)를 웨이블릿 변환하고, 저주파 성분(iC ,L) 및 고주파 성분(iC ,H)으로 분리한다. 영상의 색차신호의 잡음은 크기가 큰 coarse-grain 잡음이 주로 나타나기 때문에 제거가 어렵다. 따라서 색차신호의 잡음을 제거하기 위해서는 우선 잡음의 크기를 작게해야 하며, 이를 위해 웨이블릿 변환을 이용한다.
3-D collaborative 필터링부(520)는 분리된 저주파 성분(iC ,L)의 영상에서 블록 매칭을 수행한 수 비슷한 영상 블록을 그룹화하고 3-D collaborative 필터링을 적용하여 잡음을 제거한다. 3-D collaborative 필터링부(520)는 블록 매칭을 통하여 유사도가 임계값 보다 작은 블록들을 그룹화하고, 그룹화된 블록을 3-D 웨이블릿 변환하며, 3-D 웨이블릿 변환된 그룹화된 블록을 3D collaborative 강한 임계 처리하고, 3-D collaborative 강한 임계처리된 그룹화된 블록을 역 3-D 웨이블릿 변환한 후 역 3-D 웨이블릿 변환된 그룹화된 블록을 원 위치로 복원한다. 이는 도 4의 3-D collaborative 필터링부(410)와 그 동작이 동일하므로 상세한 설명을 생략한다.
강한 임계 처리부(530)는 분리된 고주파 성분(iC ,H)에 강한 임계 처리를 수행한다. 강한 임계 처리부(530)는 임계값(예를 들어 15)을 설정하고, 임계값의 절대값 사이 즉, -임계값 및 +임계값 사이(예를 들어 -15 및 +15)에 위치하는 고주파 성분(iC ,H)은 잡음이라고 판단하여 제거하고, 임계값의 절대값 사이 이외에 위치하는 고주파 성분(iC ,H)은 유효한 영상이라고 판단하고 유지한다.
결합부(540)는 각각 잡음이 제거된 저주파 성분 및 고주파 성분을 결합한다.
도 7은 종래의 잡음 제거 결과 영상(도 7a) 및 본 발명에 따른 잡음 제거 결과 영상(도 7b)을 보이는 도면이다. 도 7a-1는 종래의 BM3D 방법으로 잡음이 제거된 영상을 보이는 도면이고, 도 7a-2는 도 7a-1에서 영상의 어둡고 평탄한 영역을 확대한 영상을, 도 7a-3은 도 7a-1에서 밝고 글자 영역을 확대한 영상을 보여준다. 이로부터 영상의 평탄한 부분에서 색 잡음이 남아있고, 디테일한 부분이 선명하지 않은 것을 볼 수 있다. 도 7b-1은 본 실시 예에 따른 잡음이 제거된 영상을 보이는 도면이고, 도 7b-2는 도 7b-1에서 영상의 어둡고 평탄한 영역을 확대한 영상을, 도 7b-3은 도 7b-1에서 밝고 글자 영역을 확대한 영상을 보여준다. 본 실시 예에 따른 영상처리는 기존의 BM3D 방법과 비교 시에 색 잡음이 잘 제거되었고, 디테일 성분 근처의 아티팩트(artifact)가 줄어든 것을 볼 수 있다.
본 실시 예는 디지털 카메라 또는 캠코더 등의 정지 영상 취득 장치를 이용하여 획득한 컬러 영상 데이터에 대해 디테일과 에지 성분의 손실을 최소화 하면서 잡음 성분을 제거할 수 있으며, 영상 취득 시 감도 범위는 저감도에서 고감도 영상까지 넓게 사용 가능하다.
이어서, 도 8 내지 도 11를 참조하여 영상 처리 방법을 상세히 설명한다.
도 8은 본 발명에 따른 영상 처리 방법의 동작을 보이는 흐름도로서, 도 8을 참조하면, RGB 입력 영상 신호를 YCbCr 입력 영상 신호로 변환한다(800단계).
이후 YCbCr 입력 영상 신호를 휘도신호(iY) 및 색차신호(iC)로 분리한다(810단계).
분리가 완료되면, 분리된 휘도신호(iY)로부터 잡음을 제거하고, 제거된 잡음 내에 존재하는 휘도신호를 복원한다(820단계).
도 9에는 3-D collaborative 필터링 방법을 이용하여 분리된 휘도신호(iY)로부터 잡음을 제거하는 방법이 도시되어 있다. 도 9를 참조하면, 휘도신호(iY) 영상의 블록 매칭을 통하여 유사도가 임계값 보다 작은 블록들을 그룹화 한다(821단계). 다음에 유사도가 임계값 보다 작은 그룹화된 블록에 대해 3-D 웨이블릿 변환을 수행한다(822단계). 다음에 3-D 웨이블릿 변환된 블록들에 강한 임계 처리를 수행하여 잡음을 제거한다(823단계). 다음에 잡음이 제거된 블록들에 대해 역 3-D 웨이블릿 변환을 수행한다(824단계). 이후 역 3-D 웨이블릿 변환된 그룹화된 블록을 원래의 위치로 복원시킨다(825단계). 이와 같은 동작을 통하여 휘도신호(iY)에 존재하는 잡음을 1차적으로 제거할 수 있다.
도 10에는 변형된 joint image-noise 필터링 방법을 이용하여 제거된 잡음으로부터 휘도신호를 복원하는 방법이 도시되어 있다. 도 10을 참조하면, 블록 매칭을 통해 유사도가 높은 그룹화된 블록들로부터 에지를 검출한다(826단계). 다음에 검출된 에지를 확장하여 필터링될 영역을 생성한다(826단계). 이후, 유사도가 임계값 보다 작은 블록 및 역 3-D 웨이블릿 변환되어 잡음이 제거된 그룹화된 블록간의 감산 결과에 해당하는 블록에 생성된 필터링 영역을 적용하여 joint image-noise 필터링을 수행한다(828단계). joint image-noise 필터링은 상기 블록의 필터링 영역 내에서 기울기 백터 성분 및 바이래터럴 필터링 성분을 구하고 이를 상기 블록의 필터링 영역과 연산하여 잘못 제거된 유효한 영상 블록을 추출한다. 이어서, 유효한 영상블록을 원래의 위치로 복원시킨다(829단계). 최종 잡음이 검출된 휘도 신호()는 3-D collaborative 필터링된 휘도 신호 및 변형된 joint image-noise 필터링된 휘도신호의 결합형태가 된다.
다시 도 8로 돌아와서, 휘도신호의 잡음 제거가 완료되면, 색차신호(iC)로부터 잡음을 제거한다(830단계). 도 11에는 색차신호(iC)로부터 잡음 제거 방법이 도시되어 있다.
도 11을 참조하면, 웨이블릿 변환부(510)는 분리된 색차신호(iC)를 웨이블릿 변환하고(831단계), 저주파 성분(iC ,L) 및 고주파 성분(iC ,H)으로 분리한다(832단계). 이후 3-D collaborative 필터링 방법을 이용하여 저주파 성분(iC ,L)의 잡음을 제거한다(833단계). 이어서, 강한 임계 처리를 수행하여 고주파 성분(iC ,H)의 잡음을 제거한다(834단계). 저주파 성분(iC ,L) 및 고주파 성분(iC ,H)의 잡음이 제거된 후 이들을 결합한다(835단계). 이후 결합된 저주파 성분 및 고주파 성분 역 웨이블릿 변환하여 최종 잡음이 제거된 색차신호()를 출력한다.
본 발명에서 설명하는 특정 실행들은 일 실시 예들로서, 어떠한 방법으로도 본 발명의 범위를 한정하는 것은 아니다. 명세서의 간결함을 위하여, 종래 전자적인 구성들, 제어 시스템들, 소프트웨어, 상기 시스템들의 다른 기능적인 측면들의 기재는 생략될 수 있다. 또한, 도면에 도시된 구성 요소들 간의 선들의 연결 또는 연결 부재들은 기능적인 연결 및/또는 물리적 또는 회로적 연결들을 예시적으로 나타낸 것으로서, 실제 장치에서는 대체 가능하거나 추가의 다양한 기능적인 연결, 물리적인 연결, 또는 회로 연결들로서 나타내어질 수 있다. 또한, “필수적인”, “중요하게” 등과 같이 구체적인 언급이 없다면 본 발명의 적용을 위하여 반드시 필요한 구성 요소가 아닐 수 있다.
본 발명의 명세서(특히 특허청구범위에서)에서 “상기”의 용어 및 이와 유사한 지시 용어의 사용은 단수 및 복수 모두에 해당하는 것일 수 있다. 또한, 본 발명에서 범위(range)를 기재한 경우 상기 범위에 속하는 개별적인 값을 적용한 발명을 포함하는 것으로서(이에 반하는 기재가 없다면), 발명의 상세한 설명에 상기 범위를 구성하는 각 개별적인 값을 기재한 것과 같다. 마지막으로, 본 발명에 따른 방법을 구성하는 단계들에 대하여 명백하게 순서를 기재하거나 반하는 기재가 없다면, 상기 단계들은 적당한 순서로 행해질 수 있다. 반드시 상기 단계들의 기재 순서에 따라 본 발명이 한정되는 것은 아니다. 본 발명에서 모든 예들 또는 예시적인 용어(예들 들어, 등등)의 사용은 단순히 본 발명을 상세히 설명하기 위한 것으로서 특허청구범위에 의해 한정되지 않는 이상 상기 예들 또는 예시적인 용어로 인해 본 발명의 범위가 한정되는 것은 아니다. 또한, 당업자는 다양한 수정, 조합 및 변경이 부가된 특허청구범위 또는 그 균등물의 범주 내에서 설계 조건 및 팩터에 따라 구성될 수 있음을 알 수 있다.
120: 영상신호 처리부 200: 영상 변환부
300: 영상 분리부 400: 휘도신호 잡음제거부
410:3-D collaborative 필터링부 411: 블록 매칭부
412: 3-D 웨이블릿 변환부
413: 3-D collaborative 강한 임계 처리부
414: 역 3-D 웨이블릿 변환부 415: 블록 복원부
420: 변형된 joint image-noise 필터링부(420)
421: 에지 검출부 422: 확장 맵 생성부
423: 감산부 424: joint image-noise 필터
425: 블록 복원부 500: 색차신호 잡음 제거부
510: 웨이블릿 변환부 520: 3-D collaborative 필터링부
530: 강한 임계 처리부 540: 결합부
550: 역 에이블릿 변환부
300: 영상 분리부 400: 휘도신호 잡음제거부
410:3-D collaborative 필터링부 411: 블록 매칭부
412: 3-D 웨이블릿 변환부
413: 3-D collaborative 강한 임계 처리부
414: 역 3-D 웨이블릿 변환부 415: 블록 복원부
420: 변형된 joint image-noise 필터링부(420)
421: 에지 검출부 422: 확장 맵 생성부
423: 감산부 424: joint image-noise 필터
425: 블록 복원부 500: 색차신호 잡음 제거부
510: 웨이블릿 변환부 520: 3-D collaborative 필터링부
530: 강한 임계 처리부 540: 결합부
550: 역 에이블릿 변환부
Claims (19)
- 입력 영상을 휘도신호 및 색차신호로 분리하는 단계;
상기 분리된 휘도신호의 잡음을 제거하고, 상기 제거된 잡음 내에 존재하는 상기 휘도신호를 복원하는 단계;
상기 분리된 색차신호의 잡음을 제거하는 단계; 및
상기 잡음이 제거된 휘도신호 및 색차신호를 결합하는 단계를 포함하며,
상기 휘도신호 복원 단계는
상기 잡음이 제거된 휘도신호로부터 에지를 검출하는 단계;
상기 검출된 에지를 확장하여 필터링될 영역을 생성하는 단계;
블록 매칭을 통하여 유사도가 높은 그룹화 블록 및 잡음이 제거된 유사도가 높은 그룹화 블록간 차이에 해당하는 블록의 상기 필터링 영역 내에서 기울기 벡터 성분 및 바이래터럴 필터 성분을 이용하여 잘못 제거된 블록을 추출하는 단계; 및
상기 추출된 블록을 상기 휘도신호로 복원하는 단계를 포함하는 영상 처리 방법. - 제 1항에 있어서, 상기 휘도신호의 잡음 제거 단계는
블록 매칭을 통하여 유사도가 임계값 보다 작은 블록들을 그룹화하는 단계;
상기 그룹화된 블록을 3D 웨이블릿 변환하는 단계;
상기 3D 웨이블릿 변환된 상기 그룹화된 블록을 3D 임계 처리하는 단계;
상기 3D 임계처리된 그룹화된 블록을 역 3D 웨이블릿 변환하는 단계; 및
상기 역 3D 웨이블릿 변환된 그룹화된 블록을 원 위치로 복원하는 단계를 포함하는 것을 특징으로 하는 영상 처리 방법. - 제 2항에 있어서, 상기 블록 그룹화 단계는
상기 휘도신호 영상을 복수개의 블록으로 나누는 단계;
상기 블록들 중 다수의 기준블록을 설정하고, 상기 기준블록들을 이용하여 상기 휘도신호 영상을 스캔하는 단계; 및
상기 스캔한 블록들과 상기 기준블록들의 차이가 임계값 보다 작은 블록들을 유사도가 높다고 판단하고 그룹화 하는 단계를 포함하는 것을 특징으로 하는 영상 처리 방법. - 제 2항에 있어서, 상기 3D 임계 처리 단계는
임계값의 절대값 사이에 위치한 상기 그룹화된 블록들은 잡음으로 판단하여 제거하는 단계; 및
상기 임계값의 절대값 사이 이외에 위치한 상기 그룹화된 블록들은 유효한 영상으로 판단하여 유지하는 단계를 포함하는 것을 특징으로 하는 영상 처리 방법. - 제 3항에 있어서, 상기 그룹화된 블록의 원 위치 복원단계에서
서로 다른 상기 기준 블록에 대해 중복되어 사용된 유사도가 높은 블록들은 상기 복원 시에 가중치 평균값이 적용되는 것을 특징으로 하는 영상 처리 방법. - 삭제
- 제 1항에 있어서, 상기 분리된 색차신호의 잡음 제거 단계는
상기 색차신호를 웨이블릿 변환하는 단계;
상기 웨이블릿 변환된 신호를 고주파 성분 및 저주파 성분으로 분리하는 단계;
상기 저주파 성분의 잡음을 제거하는 단계;
상기 고주파 성분의 잡음을 제거하는 단계;
상기 잡음이 제거된 저주파 성분 및 고주파 성분을 결합하는 단계; 및
상기 결합된 저주파 성분 및 고주파 성분을 역 웨이블릿 변환하는 단계를 포함하는 것을 특징으로 하는 영상 처리 방법. - 제 7항에 있어서, 상기 저주파 성분의 잡음 제거 단계는
블록 매칭을 통하여 유사도가 임계값 보다 작은 블록들을 그룹화하는 단계;
상기 그룹화된 블록을 3D 웨이블릿 변환하는 단계;
상기 3D 웨이블릿 변환된 상기 그룹화된 블록을 3D 임계 처리하는 단계;
상기 3D 임계처리된 그룹화된 블록을 역 3D 웨이블릿 변환하는 단계; 및
상기 역 3D 웨이블릿 변환된 그룹화된 블록을 원 위치로 복원하는 단계를 포함하는 것을 특징으로 하는 영상 처리 방법. - 제 8항에 있어서, 상기 블록 그룹화 단계는
상기 저주파 성분의 영상을 복수개의 블록으로 나누는 단계;
상기 블록들 중 다수의 기준블록을 설정하고, 상기 기준블록들을 이용하여 상기 휘도신호 영상을 스캔하는 단계; 및
상기 스캔한 블록들과 상기 기준블록들의 차이가 임계값 보다 작은 블록들을 유사도가 높다고 판단하고 그룹화 하는 단계를 포함하는 것을 특징으로 하는 영상 처리 방법. - 제 8항에 있어서, 상기 3D 임계 처리 단계는
임계값의 절대값 사이에 위치한 상기 그룹화된 블록들을 잡음으로 판단하여 제거하는 단계; 및
상기 임계값의 절대값 사이 이외에 위치한 상기 그룹화된 블록들을 유효한 영상으로 판단하여 유지하는 단계를 포함하는 것을 특징으로 하는 영상 처리 방법. - 제 9항에 있어서, 상기 그룹화된 블록의 원 위치 복원단계에서
서로 다른 상기 기준 블록에 대해 중복되어 사용된 유사도가 높은 블록들은 상기 복원 시에 가중치 평균값이 적용되는 것을 특징으로 하는 영상 처리 방법. - 제 7항에 있어서, 상기 고주파 성분의 잡음 제거 단계는
임계값의 절대값 사이에 위치한 상기 고주파 성분을 잡음으로 판단하여 제거하는 단계; 및
상기 임계값의 절대값 사이 이외에 위치한 상기 고주파 성분을 유효한 영상으로 판단하여 유지하는 단계를 포함하는 것을 특징으로 하는 영상 처리 방법. - 입력 영상을 휘도신호 및 색차신호로 분리하는 분리부;
상기 분리된 휘도신호의 잡음을 제거하고, 상기 제거된 잡음 내에 존재하는 상기 휘도신호를 복원하는 제1 잡음 제거부;
상기 분리된 색차신호의 잡음을 제거하는 제2 잡음 제거부; 및
상기 잡음이 제거된 휘도신호 및 색차신호를 결합하여 출력하는 출력부를 포함하며,
상기 제1 잡음 제거부는
상기 잡음이 제거된 휘도신호로부터 에지를 검출하는 검출부;
상기 검출된 에지를 확장하여 필터링될 영역을 생성하는 생성부;
블록 매칭을 통하여 유사도가 높은 그룹화 블록 및 잡음이 제거된 유사도가 높은 그룹화 블록간 차이에 해당하는 블록의 상기 필터링 영역 내에서 기울기 벡터 성분 및 바이래터럴 필터 성분을 이용하여 잘못 제거된 블록을 추출하는 필터링부; 및
상기 추출된 블록을 상기 휘도신호로 복원하는 복원부를 포함하는 영상 처리 장치. - 제 13항에 있어서,
상기 입력 영상의 색신호(RGB)를 휘도신호(Y) 및 색차신호(CbCr)로 변환하는 변환부를 더 포함하는 것을 특징으로 하는 영상 처리 장치. - 제 13항에 있어서, 상기 제1 잡음 제거부는
블록 매칭을 통하여 유사도가 임계값 보다 작은 블록들을 그룹화하는 블록 매칭부;
상기 그룹화된 블록을 3D 웨이블릿 변환하는 변환부;
상기 3D 웨이블릿 변환된 상기 그룹화된 블록을 3D 임계 처리하는 임계 처리부;
상기 3D 임계처리된 그룹화된 블록을 역 3D 웨이블릿 변환하는 역변환부; 및
상기 역 3D 웨이블릿 변환된 그룹화된 블록을 원 위치로 복원하는 복원부를 포함하는 것을 특징으로 하는 영상 처리 장치. - 삭제
- 제 13항에 있어서, 상기 제2 잡음 제거부는
상기 색차신호를 웨이블릿 변환하는 변환부;
상기 웨이블릿 변환된 신호를 고주파 성분 및 저주파 성분으로 분리하는 분리부;
상기 저주파 성분의 잡음을 제거하는 제1 필터링부;
상기 고주파 성분의 잡음을 제거하는 제2 필터링부;
상기 잡음이 제거된 저주파 성분 및 고주파 성분을 결합하는 결합부; 및
상기 결합된 저주파 성분 및 고주파 성분을 역 웨이블릿 변환하는 역변환부를 포함하는 것을 특징으로 하는 영상 처리 장치. - 제 17항에 있어서, 제1 필터링부는
블록 매칭을 통하여 유사도가 임계값 보다 작은 블록들을 그룹화하는 블록 매칭부;
상기 그룹화된 블록을 3D 웨이블릿 변환하는 변환부;
상기 3D 웨이블릿 변환된 상기 그룹화된 블록을 3D 임계 처리하는 임계 처리부;
상기 3D 임계처리된 그룹화된 블록을 역 3D 웨이블릿 변환하는 역변환부; 및
상기 역 3D 웨이블릿 변환된 그룹화된 블록을 원 위치로 복원하는 복원부를 포함하는 것을 특징으로 하는 영상 처리 장치. - 제 18항에 있어서, 제2 필터링부는
임계값의 절대값 사이에 위치한 상기 고주파 성분을 잡음으로 판단하여 제거하고, 상기 임계값의 절대값 사이 이외에 위치한 상기 고주파 성분을 유효한 영상으로 판단하여 유지하는 것을 특징으로 하는 영상 처리 장치.
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020110095233A KR101828411B1 (ko) | 2011-09-21 | 2011-09-21 | 영상 처리 방법 및 영상 처리 장치 |
US13/591,449 US9117136B2 (en) | 2011-09-21 | 2012-08-22 | Image processing method and image processing apparatus |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020110095233A KR101828411B1 (ko) | 2011-09-21 | 2011-09-21 | 영상 처리 방법 및 영상 처리 장치 |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20130031573A KR20130031573A (ko) | 2013-03-29 |
KR101828411B1 true KR101828411B1 (ko) | 2018-02-13 |
Family
ID=47880713
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020110095233A KR101828411B1 (ko) | 2011-09-21 | 2011-09-21 | 영상 처리 방법 및 영상 처리 장치 |
Country Status (2)
Country | Link |
---|---|
US (1) | US9117136B2 (ko) |
KR (1) | KR101828411B1 (ko) |
Families Citing this family (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102069228B1 (ko) * | 2013-04-16 | 2020-01-22 | 삼성전자주식회사 | 영상의 회화적 표현을 위한 영상 처리 방법 및 장치 |
CN104240189B (zh) * | 2013-06-17 | 2017-05-24 | 富士通株式会社 | 恢复抗锯齿边缘的滤波方法和装置 |
CN104639800B (zh) | 2013-11-08 | 2017-11-24 | 华为终端(东莞)有限公司 | 一种用于图像降噪的方法及终端 |
US9230161B2 (en) * | 2013-12-06 | 2016-01-05 | Xerox Corporation | Multiple layer block matching method and system for image denoising |
US9986890B2 (en) * | 2014-11-25 | 2018-06-05 | Sony Corporation | Endoscope system, operation method for endoscope system, and program for balancing conflicting effects in endoscopic imaging |
KR102087681B1 (ko) * | 2015-09-17 | 2020-03-11 | 삼성전자주식회사 | 이미지 처리 장치, 이미지 처리 방법 및 컴퓨터 판독가능 기록 매체 |
JP2020061080A (ja) * | 2018-10-12 | 2020-04-16 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法 |
CN110599406B (zh) * | 2019-03-18 | 2022-05-03 | 上海立可芯半导体科技有限公司 | 一种图像增强方法及装置 |
CN111311503A (zh) * | 2019-11-13 | 2020-06-19 | 深圳大学 | 一种夜晚低亮度图像增强系统 |
CN111062904B (zh) * | 2019-12-09 | 2023-08-11 | Oppo广东移动通信有限公司 | 图像处理方法、图像处理装置、电子设备和可读存储介质 |
CN112991190A (zh) * | 2019-12-16 | 2021-06-18 | 荣耀终端有限公司 | 图像降噪方法及其介质和电子设备 |
CN117911405B (zh) * | 2024-03-19 | 2024-05-24 | 济南科汛智能科技有限公司 | 一种用于牙髓牙体检测的x射线影像处理方法 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007272536A (ja) * | 2006-03-31 | 2007-10-18 | Nikon Corp | 画像処理方法 |
Family Cites Families (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6721446B1 (en) * | 1999-04-26 | 2004-04-13 | Adobe Systems Incorporated | Identifying intrinsic pixel colors in a region of uncertain pixels |
DE60136474D1 (de) * | 2000-09-14 | 2008-12-18 | Univ R | Beurteilung des zustandes eines gelenkes und des verlustes von knorpelgewebe |
WO2002102086A2 (en) * | 2001-06-12 | 2002-12-19 | Miranda Technologies Inc. | Apparatus and method for adaptive spatial segmentation-based noise reducing for encoded image signal |
US6993204B1 (en) * | 2002-01-04 | 2006-01-31 | Pixon Llc | High speed signal enhancement using pixons |
US7576332B2 (en) * | 2003-08-01 | 2009-08-18 | St. George's Healthcare Nhs Trust | Imaging system |
US7876974B2 (en) * | 2003-08-29 | 2011-01-25 | Vladimir Brajovic | Method for improving digital images and an image sensor for sensing the same |
US7477777B2 (en) * | 2005-10-28 | 2009-01-13 | Aepx Animation, Inc. | Automatic compositing of 3D objects in a still frame or series of frames |
MX2009006404A (es) * | 2006-12-18 | 2009-06-23 | Koninkl Philips Electronics Nv | Compresion y descompresion de imagen. |
US8149336B2 (en) * | 2008-05-07 | 2012-04-03 | Honeywell International Inc. | Method for digital noise reduction in low light video |
US8488863B2 (en) * | 2008-11-06 | 2013-07-16 | Los Alamos National Security, Llc | Combinational pixel-by-pixel and object-level classifying, segmenting, and agglomerating in performing quantitative image analysis that distinguishes between healthy non-cancerous and cancerous cell nuclei and delineates nuclear, cytoplasm, and stromal material objects from stained biological tissue materials |
GB0913930D0 (en) * | 2009-08-07 | 2009-09-16 | Ucl Business Plc | Apparatus and method for registering two medical images |
US8886283B1 (en) * | 2011-06-21 | 2014-11-11 | Stc.Unm | 3D and 4D magnetic susceptibility tomography based on complex MR images |
-
2011
- 2011-09-21 KR KR1020110095233A patent/KR101828411B1/ko active IP Right Grant
-
2012
- 2012-08-22 US US13/591,449 patent/US9117136B2/en not_active Expired - Fee Related
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007272536A (ja) * | 2006-03-31 | 2007-10-18 | Nikon Corp | 画像処理方法 |
Non-Patent Citations (1)
Title |
---|
Kostadin Dabov ET AL: "Joint Image Sharpening and Denoising by 3D Transform-Domain Collaborative Filtering", PROC. 2007 INT. WORKSHOP on SPECTRAL METHODS and MULTIRATE SIGNAL PROCESSING, SMMSP 2007* |
Also Published As
Publication number | Publication date |
---|---|
KR20130031573A (ko) | 2013-03-29 |
US20130071025A1 (en) | 2013-03-21 |
US9117136B2 (en) | 2015-08-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101828411B1 (ko) | 영상 처리 방법 및 영상 처리 장치 | |
JP5183297B2 (ja) | 画像処理装置、撮像装置及び画像処理方法 | |
JP5756099B2 (ja) | 撮像装置、画像処理装置、画像処理方法、および画像処理プログラム | |
KR101661215B1 (ko) | 영상 처리 방법 및 영상 처리 장치 | |
JP4824586B2 (ja) | 撮像装置 | |
KR20130031572A (ko) | 영상 처리 방법 및 영상 처리 장치 | |
JP2004522372A (ja) | 時空間適応的雑音除去/高画質復元方法及びこれを応用した高画質映像入力装置 | |
KR101341101B1 (ko) | 영상 복원 장치 및 복원 방법 | |
JP4466015B2 (ja) | 画像処理装置および画像処理プログラム | |
WO2011099239A1 (ja) | 撮像装置および撮像方法、ならびに前記撮像装置のための画像処理方法 | |
JP5468930B2 (ja) | 画像処理装置及び画像処理プログラム | |
JP4534750B2 (ja) | 画像処理装置および画像処理プログラム | |
JP5497420B2 (ja) | 画像処理装置及び撮像装置 | |
JP4466017B2 (ja) | 画像処理装置および画像処理プログラム | |
KR20100055067A (ko) | 영상 처리 장치 및 방법 | |
JP2010147840A (ja) | 画像処理装置及び撮像装置 | |
JP5227906B2 (ja) | 映像記録システム | |
JP2006203339A (ja) | 撮像装置ならびに画像データの輪郭補正方法,そのノイズ除去方法およびその記録制御方法 | |
KR20070092357A (ko) | Psf 선택 모듈, 디지털 자동 초점 조절 장치 및 psf선택 방법 | |
JP6029464B2 (ja) | 撮像装置、その制御方法、および制御プログラム | |
JP4466016B2 (ja) | 画像処理装置および画像処理プログラム | |
JP5158167B2 (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
KR101349466B1 (ko) | 카메라의 이미지 개선 장치 및 방법 | |
JP2010239493A (ja) | 撮像装置および映像信号の補正処理方法 | |
JP2004159087A (ja) | スキャナシステム、画像処理プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A201 | Request for examination | ||
E902 | Notification of reason for refusal | ||
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant |