KR20140034400A - 시점간 상관성을 이용한 영상 처리 방법 및 장치 - Google Patents

시점간 상관성을 이용한 영상 처리 방법 및 장치 Download PDF

Info

Publication number
KR20140034400A
KR20140034400A KR1020120100237A KR20120100237A KR20140034400A KR 20140034400 A KR20140034400 A KR 20140034400A KR 1020120100237 A KR1020120100237 A KR 1020120100237A KR 20120100237 A KR20120100237 A KR 20120100237A KR 20140034400 A KR20140034400 A KR 20140034400A
Authority
KR
South Korea
Prior art keywords
image
depth
depth image
viewpoint
view
Prior art date
Application number
KR1020120100237A
Other languages
English (en)
Inventor
임일순
위호천
이재준
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020120100237A priority Critical patent/KR20140034400A/ko
Priority to US14/017,716 priority patent/US20140071233A1/en
Priority to EP13183913.6A priority patent/EP2723083A3/en
Priority to CN201310412382.4A priority patent/CN103686192A/zh
Publication of KR20140034400A publication Critical patent/KR20140034400A/ko

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/122Improving the 3D impression of stereoscopic images by modifying image signal contents, e.g. by filtering or adding monoscopic depth cues
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • H04N19/147Data rate or code amount at the encoder output according to rate distortion criteria
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/189Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding
    • H04N19/192Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding the adaptation method, adaptation tool or adaptation type being iterative or recursive

Abstract

시점간 상관성을 이용한 영상 처리 방법 및 장치에 관한 것으로서, 영상 처리 장치는 입력되는 적어도 하나 이상의 깊이 영상에 대해 잡음을 제거하는 잡음 제거부, 상기 잡음 제거된 적어도 하나 이상의 깊이 영상 중에서, 제2 시점의 제2 깊이 영상을 제1 시점의 깊이 공간으로 시점 변환하는 시점 변환부, 상기 제1 시점의 제1 깊이 영상과, 상기 제1 시점으로 시점 변환된 상기 제2 깊이 영상으로부터 적어도 하나 이상의 가중치 계수를 생성하고, 상기 생성된 가중치 계수를 이용하여 가중치 평균 필터를 생성하는 가중치 평균 필터부, 및 상기 생성한 가중치 평균 필터를 적용하여, 상기 제1 시점의 제1 깊이 영상과, 상기 제1 시점으로 시점 변환된 상기 제2 깊이 영상으로부터 제3 깊이 영상을 변환하는 깊이 영상 변환부를 포함할 수 있다.

Description

시점간 상관성을 이용한 영상 처리 방법 및 장치{APPARATUS AND METHOD OF PROCESSING IMAGE USING CORRELATION AMONG VIEWPOINTS}
아래의 실시예들은 시점간 상관성을 이용한 영상 처리 방법 및 장치에 관한 것으로서, 깊이 영상의 압축에 있어 프리 필터(pre filter) 및 인-루프 필터(in-loop filter)에 복원 기능을 지원하는 영상 처리 방법 및 장치에 관한 것이다.
3차원 영상 압축 시스템은 색상 영상(color video)과 깊이 영상(depth video, depth map)을 압축하는 시스템이다. 한편, 색상 영상에 대한 압축은 H.264/AVC, H.264/MVC, HEVC와 같은 방법으로 효율적으로 압축할 수 있지만, 깊이 영상은 영상 특성이 색상 영상과 확연히 다르다.
영상 압축을 위한 기존의 압축(부호화) 표준은 H.261, H.263, MPEG-1, MPEG-2, MPEG-4, H.264 그리고 HEVC(High Efficiency Video Coding) 등이 있다.
기존의 압축 표준은 조금씩 차이는 있으나, 일반적으로 움직임 추정과 보상, 변환 부호화, 그리고 엔트로피 인코딩을 포함하는 유사한 구조로 구성되어 있다.
특히, H.264 및 HEVC는 복원된 영상 내에 존재하는 블록 경계 왜곡을 최소화하여, 주관적인 화질 향상뿐만 아니라 움직임 추정과 보상과정에서 더 정밀한 예측을 가능하게 하여 전체적인 부호화 효율을 높이는 것으로 알려져 있다.
이러한 디블록킹 필터는 낮은 비트레이트 영상에서는 좋은 성능을 보이지만, 고화질 영상에서는 거의 성능이 없거나, 오히려 부호화 성능을 저하시키는 문제가 있다.
또한, 최근 압축 표준에 채택된 적응적 루프 필터(ALF; Adaptive Loop Filter)는 복원된 영상과 원본 영상 간의 에러를 최소화하는 필터로써, 고화질 영상에서 디블록킹 필터와 같이 적용하였을 때, 부호화 효율을 높이는 효과가 있다.
일반적인 적응적 루프 필터는 위너 필터(Wiener Filter) 기반의 복원 필터이었다.
근래에는 디블록킹 필터 다음 단계에 적응적 루프 필터를 두어 객관적 화질을 향상시키는 방법이 제안되고 있다.
일실시예에 따른 영상 처리 장치는, 입력되는 적어도 하나 이상의 깊이 영상에 대해 잡음을 제거하는 잡음 제거부, 상기 잡음 제거된 적어도 하나 이상의 깊이 영상 중에서, 제2 시점의 제2 깊이 영상을 제1 시점의 깊이 공간으로 시점 변환하는 시점 변환부, 상기 제1 시점의 제1 깊이 영상과, 상기 제1 시점으로 시점 변환된 상기 제2 깊이 영상으로부터 적어도 하나 이상의 가중치 계수를 생성하고, 상기 생성된 가중치 계수를 이용하여 가중치 평균 필터를 생성하는 가중치 평균 필터부, 및 상기 생성한 가중치 평균 필터를 적용하여, 상기 제1 시점의 제1 깊이 영상과, 상기 제1 시점으로 시점 변환된 상기 제2 깊이 영상으로부터 제3 깊이 영상을 변환하는 깊이 영상 변환부를 포함하고, 상기 변환된 제3 깊이 영상을 깊이 영상 압축의 부호화에 이용할 수 있다.
일실시예에 따른 잡음 제거부는, 레인지 연산을 이용하여 상기 입력되는 적어도 하나 이상의 깊이 영상에 대한 잡음을 제거할 수 있다.
일실시예에 따른 시점 변환부는, 상기 제2 깊이 영상을 깊이 공간으로 변환하고, 상기 변환된 깊이 공간을 이용하여 상기 제2 깊이 영상을 상기 제1 시점의 깊이 공간으로 시점 변환할 수 있다.
일실시예에 따른 가중치 평균 필터부는, 상기 제1 깊이 영상 및 상기 제2 깊이 영상 중에서 적어도 하나의 표준편차(standard deviation), 분산(variance), 그라디언트(gradient), 및 해상도(resolution) 중에서 적어도 하나를 이용하여 임계치를 결정하고, 상기 결정된 임계치를 이용하여 상기 가중치 계수를 생성할 수 있다.
일실시예에 따른 영상 처리 장치는 제2 시점의 제2 깊이 영상을 제1 시점의 깊이 공간으로 시점 변환하는 시점 변환부, 상기 제1 시점의 제1 깊이 영상 및 상기 제2 깊이 영상 중에서 적어도 하나의 영상 특성에 기초하여 임계치를 결정하고, 상기 결정된 임계치를 반영하여 상기 시점 변환된 깊이 공간에 가중치 평균 필터링을 수행하는 가중치 평균 필터부, 및 상기 필터링된 깊이 공간을 영상 영역의 제3 깊이 영상으로 변환하여 픽쳐 버퍼로 전송하는 깊이 영상 변환부를 포함할 수 있다.
일실시예에 따른 가중치 평균 필터부는, 상기 제1 시점의 제1 깊이 영상 및 상기 제2 깊이 영상 중에서 적어도 하나의 영상 특성과, 압축 조건을 고려하여 상기 임계치를 결정할 수 있다.
일실시예에 따른 가중치 평균 필터부는, 상기 제1 시점의 제1 깊이 영상 및 상기 제2 깊이 영상 중에서 적어도 하나의 영상 특성과, 양자화 파라미터(QP, Quantization Parameter)를 고려하여 매 액세스 유니트(access unit) 마다 또는 매 슬라이스(slice) 마다 상기 임계치를 결정할 수 있다.
일실시예에 따른 영상 처리 방법은, 잡음 제거부에서, 입력되는 적어도 하나 이상의 깊이 영상에 대해 잡음을 제거하는 단계, 시점 변환부에서, 상기 잡음 제거된 적어도 하나 이상의 깊이 영상 중에서, 제2 시점의 제2 깊이 영상을 제1 시점의 깊이 공간으로 시점 변환하는 단계, 가중치 평균 필터부에서, 상기 제1 시점의 제1 깊이 영상과, 상기 제1 시점으로 시점 변환된 상기 제2 깊이 영상으로부터 적어도 하나 이상의 가중치 계수를 생성하는 단계, 상기 가중치 평균 필터부에서, 상기 생성된 가중치 계수를 이용하여 가중치 평균 필터를 생성하는 단계, 및 깊이 영상 변환부에서, 상기 생성한 가중치 평균 필터를 적용하여, 상기 제1 시점의 제1 깊이 영상과, 상기 제1 시점으로 시점 변환된 상기 제2 깊이 영상으로부터 제3 깊이 영상을 변환하는 단계를 포함하고, 상기 변환된 제3 깊이 영상을 깊이 영상 압축의 부호화에 이용할 수 있다.
일실시예에 따른 시점 변환하는 단계는, 상기 시점 변환부에서, 상기 제2 깊이 영상을 깊이 공간으로 변환하는 단계, 및 상기 변환된 깊이 공간을 이용하여 상기 제2 깊이 영상을 상기 제1 시점의 깊이 공간으로 시점 변환하는 단계를 포함할 수 있다.
일실시예에 따른 가중치 계수를 생성하는 단계는, 상기 가중치 평균 필터부에서, 상기 제1 깊이 영상 및 상기 제2 깊이 영상 중에서 적어도 하나의 표준편차(standard deviation), 분산(variance), 그라디언트(gradient), 및 해상도(resolution) 중에서 적어도 하나를 이용하여 임계치를 결정하는 단계, 및 상기 결정된 임계치를 이용하여 상기 가중치 계수를 생성하는 단계를 포함할 수 있다.
일실시예에 따른 영상 처리 방법은 시점 변환부에서, 제2 시점의 제2 깊이 영상을 제1 시점의 깊이 공간으로 시점 변환하는 단계, 가중치 평균 필터부에서, 상기 제1 시점의 제1 깊이 영상 및 상기 제2 깊이 영상 중에서 적어도 하나의 영상 특성 및 압축 조건을 고려하여 임계치를 결정하는 단계, 상기 가중치 평균 필터부에서, 상기 결정된 임계치를 반영하여 상기 시점 변환된 깊이 공간에 가중치 평균 필터링을 수행하는 단계, 및 깊이 영상 변환부에서, 상기 필터링된 깊이 공간을 영상 영역의 제3 깊이 영상으로 변환하여 픽쳐 버퍼로 전송하는 단계를 포함할 수 있다.
일실시예에 따른 상기 임계치를 결정하는 단계는, 상기 제1 시점의 제1 깊이 영상 및 상기 제2 깊이 영상 중에서 적어도 하나의 영상 특성과, 양자화 파라미터(QP, Quantization Parameter)를 고려하여 매 액세스 유니트(access unit) 마다 또는 매 슬라이스(slice) 마다 상기 임계치를 결정하는 단계를 포함할 수 있다.
일실시예에 따른 상기 임계치를 결정하는 단계는, 복수개의 임계치를 이용하여 상기 깊이 공간에 필터링을 수행하고, 상기 필터링된 원본 영상과 가장 가까운 화질의 임계치를 최종 임계치로 결정하는 단계를 포함할 수 있다.
일실시예에 따른 상기 가중치를 결정하는 단계는, 복수개의 가중치를 이용하여 상기 깊이 공간에 필터링을 수행하고, 상기 필터링된 원본 영상과 가장 가까운 화질의 가중치를 최종 가중치로 결정하는 단계를 포함할 수 있다.
도 1은 전처리 위치의 시점간 필터로서 동작하는 영상 처리 장치를 설명하는 블록도이다.
도 2는 인-루프 위치의 시점간 필터로서 동작하는 영상 처리 장치를 설명하는 블록도이다.
도 3은 일실시예에 따른 영상 처리 장치가 3차원 영상 압축 시스템의 부호화기에 적용되는 일실시예를 나타내는 도면이다.
도 4는 일실시예에 따른 영상 처리 장치가 3차원 영상 압축 시스템의 복호화기에 적용되는 일실시예를 나타내는 도면이다.
도 5는 깊이 영상의 시점 변환을 설명하는 도면이다.
도 6은 전처리 위치의 시점간 필터로서 동작하는 영상 처리 장치의 영상 처리 방법을 설명하는 흐름도이다.
도 7은 인-루프 위치의 시점간 필터로서 동작하는 영상 처리 장치의 영상 처리 방법을 설명하는 흐름도이다.
이하, 실시예들을 첨부된 도면을 참조하여 상세하게 설명한다.
실시예들을 설명함에 있어서, 관련된 공지 기능 또는 구성에 대한 구체적인 설명이 실시예들의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명을 생략할 것이다. 그리고, 본 명세서에서 사용되는 용어(terminology)들은 실시예들을 적절히 표현하기 위해 사용된 용어들로서, 이는 사용자, 운용자의 의도 또는 해당 기술이 속하는 분야의 관례 등에 따라 달라질 수 있다. 따라서, 용어들에 대한 정의는 본 명세서 전반에 걸친 내용을 토대로 내려져야 할 것이다. 각 도면에 제시된 동일한 참조 부호는 동일한 부재를 나타낸다.
도 1은 전처리 위치의 시점간 필터로서 동작하는 영상 처리 장치(100)를 설명하는 블록도이다.
영상 처리 장치(100)는 프리 필터(pre filter) 및 인-루프 필터(in-loop filter)에 복원 기능을 지원하는 기능을 수행할 수 있는데, 도 1은 프리 필터(pre filter)의 기능에 관한 것이다. 즉, 도 1에서는 인접 시점간 영상의 유사성을 향상시켜 영상의 압축률을 향상 시키는 전처리 필터링 기능의 영상 처리 장치(100)를 설명한다.
 전처리 필터링은 원 영상으로부터 여러 가지 노이즈와 중요하지 않은 부분을 제거하여 영상의 비트 발생량을 최소화시켜 압축률을 향상시키기 위한 기능과 인접 시점간 영상의 유사성을 향상시켜 영상의 화질을 최대화시켜 압축률을 향상시키는 기능을 지원한다.
도 1에 따르면 다시점의 깊이 영상이 입력될 때 인접 시점에 위치한 깊이 영상간의 높은 상관도를 이용하여 필터링함으로써, 깊이 영상에 내재한 노이즈(noise) 제거 및 압축 효율 향상이 가능한 시점간 필터링(JVF; Joint Inter-view Filter) 방법을 제공할 수 있다.
이를 위해, 일실시예에 따른 영상 처리 장치(100)는 잡음 제거부(110), 시점 변환부(120), 가중치 평균 필터부(130), 및 깊이 영상 변환부(140)를 포함할 수 있다.
일실시예에 따른 잡음 제거부(110)는 입력되는 적어도 하나 이상의 깊이 영상에 대해 잡음을 제거할 수 있다
일실시예에 따른 잡음 제거부(110)는 레인지 연산을 이용하여 상기 입력되는 적어도 하나 이상의 깊이 영상에 대한 잡음을 제거할 수 있다.
구체적으로, 일실시예에 따른 잡음 제거부(110)는 [수학식 1]을 이용해서 상기 입력되는 적어도 하나 이상의 깊이 영상에 대한 잡음을 제거할 수 있다.
[수학식 1]
Figure pat00001

[수학식 1]에서, M(x)는 이웃한 픽셀의 집합, K는 정규화 상수, M(x)는 x를 중심으로 한 이웃한 픽셀의 집합을 의미하고, I(x)는 현재 위치인 x의 깊이 픽셀을 의미하며, I(y)는 이웃한 위치의 깊이 픽셀을 의미하고, | |2은 절대값의 제곱을 의미하고, σr은 레인지 가중치(range weight)로서 레인지 필터의 최적 파라미터를 의미할 수 있다.
Figure pat00002
는 잡음이 제거된 적어도 하나 이상의 깊이 영상으로 해석될 수 있다.
다시 말해, M(x)는 x를 중심으로 하는 이웃한 픽셀의 집합이며, 필터 구조를 형성하고, 이때의 필터 구조의 모양은 자기 상관도의 방향에 따라서 결정될 수 있다.
최적 파라미터는 각 깊이 영상의 프레임 마다 한 개씩 발생한다. 또한, 최적 파라미터는 동영상 전체나 픽쳐를 구성하는 블록 별로 발생하는 것보다 깊이 영상의 화질을 향상시키면서 오버헤드 감소시키는 장점이 있다.
일실시예에 따른 잡음 제거부(110)는 필터 파라미터의 가능한 범위(
Figure pat00003
)가 정해진 상태에서 각 필터 파라미터별로 왜곡(distortion)을 계산한다.
또한, 일실시예에 따른 잡음 제거부(110)는 계산되는 왜곡들 중에서 가장 작은 왜곡을 출력하는 파라미터를 최적 파라미터로 결정할 수 있다.
여기서 왜곡은 원본 깊이 영상과 복원 깊이 영상간의 제곱합(Sum of Squared Difference; SSD)으로 정의될 수 있다.
또한, 상기 왜곡은 원본 색상 영상과 원본 깊이 영상으로 합성한 영상과 압축 색상 영상과 복원 색상 영상으로 합성한 영상간의 SSD로 정의될 수도 있다.
일실시예에 따른 잡음 제거부(110)는 모델링 기반으로 상기 최적 파라미터를 결정할 수도 있다.
이 경우에, 일실시예에 따른 잡음 제거부(110)는 각 깊이 영상의 현재 프레임의 양자화 파라미터(QP, Quantization Parameter), 선정된 문턱값 등을 이용하여 상기 최적 파라미터를 결정할 수 있다.
일실시예에 따른 시점 변환부(120)는 상기 잡음 제거된 적어도 하나 이상의 깊이 영상 중에서, 제2 시점의 제2 깊이 영상을 제1 시점의 깊이 공간으로 시점 변환('view warping' or 'view projection')할 수 있다.
구체적으로, 일실시예에 따른 시점 변환부(120)는 [수학식 2] 및 [수학식 3]을 이용하여, 상기 제2 깊이 영상을 제1 시점의 깊이 공간으로 시점 변환할 수 있다.
[수학식 2]
Figure pat00004

[수학식 2]에서, Y는 0부터 255 사이의 정수 형태로 표시되는 깊이 영상 깊이 영상을 의미하고, Znear는 가장 가까운 깊이 값으로 해석될 수 있으며, Zfar는 가장 먼 깊이 값으로 해석될 수 있고, z는 상기 깊이 공간으로 해석될 수 있다.
또한, 일실시예에 따른 시점 변환부(120)는 상기 깊이 공간으로 변환한 후에 [수학식 3]에 의하여 인접 시점을 현 시점으로 이동시킬 수 있다.
다시 말해, 일실시예에 따른 시점 변환부(120)는 상기 깊이 공간의 제2 시점을 제1 시점으로 시점 변환시킬 수 있다.
[수학식 3]
Figure pat00005

[수학식 3]에서 f는 초점 거리(focal length)로 해석될 수 있고, l은 베이스라인 거리(baseline spacing)로 해석될 수 있다. 또한, d는 제1 시점의 깊이 값으로 해석될 수 있고, z는 상기 깊이 공간으로 해석될 수 있다.
[수학식 3]은 다시점 카메라(multi-view camera)가 일차원 배열(1-D parallel arrangement)일 때 적용할 수 있는 수식으로서, 다시점 카메라의 배열에 따라서 시점 변환의 공식이 다르게 적용될 수도 있다.
일실시예에 따른 가중치 평균 필터부(130)는 상기 제1 시점의 제1 깊이 영상과, 상기 제1 시점으로 시점 변환된 상기 제2 깊이 영상으로부터 적어도 하나 이상의 가중치 계수를 생성하고, 상기 생성된 가중치 계수를 이용하여 가중치 평균 필터를 생성할 수 있다.
일실시예에 따른 가중치 평균 필터부(130)에서 임계치를 갖는 가중치 평균 필터는 [수학식 4] 및 [수학식 5]로 표현될 수 있다.
[수학식 4]
Figure pat00006

[수학식 4]에서, w1, w2는 가중치 계수로 해석될 수 있고, z는 깊이 공간으로 해석될 수 있고, z2 →1은 제2 시점에서 제1 시점으로 변환되는 깊이 공간, z1은 제1 시점에서의 깊이 영상으로 해석될 수 있고,
Figure pat00007
은 제1 시점에서의 출력으로서, 제1 시점에 대한 가중치 평균 필터의 출력으로 해석될 수 있다.
일실시예에 따른 가중치 평균 필터부(130)는 [수학식 4]의 가중치 계수에 대해서 아래 [수학식 5]로 정의되는 조건에 의해서 결정할 수 있다.
[수학식 5]
Figure pat00008

[수학식 5]에서, Tpre는 전처리 과정의 임계치로 해석될 수 있다.
또한, [수학식 5]에서, w1, w2는 가중치 계수로 해석될 수 있고, z는 깊이 공간으로 해석될 수 있고, z2 →1은 제2 시점에서 제1 시점으로 변환되는 깊이 공간, z1은 제1 시점에서의 깊이 영상으로 해석될 수 있고, z2는 제2 시점에서의 깊이 영상으로 해석될 수 있다.
일실시예에 따른 가중치 평균 필터부(130)는 깊이 영상의 표준편차(standard deviation), 분산(variance), 그라디언트(gradient) 및 해상도(resolution)과 같은 영상 특성을 분석하여 상기 임계치를 결정할 수 있다.
즉, 일실시예에 따른 가중치 평균 필터부(130)는 상기 제1 깊이 영상 및 상기 제2 깊이 영상 중에서 적어도 하나의 표준편차(standard deviation), 분산(variance), 그라디언트(gradient), 및 해상도(resolution) 중에서 적어도 하나를 이용하여 임계치를 결정하고, 상기 결정된 임계치를 이용하여 상기 가중치 계수를 생성할 수 있다.
일실시예에 따른 가중치 평균 필터부(130)는 매 시퀀스(sequence) 마다, 매 액세스 유니트(access unit) 마다, 또는 매 슬라이스(slice) 마다 상기 영상 분석을 통하여 계산할 수 있다.
상기 액세스 유니트는 동일 시간에 대응하는 색상영상과 깊이 영상의 집합을 의미한다.
제2 시점의 제2 깊이 영상을 제1 시점으로 시점 변환을 하면, 제1 시점의 제1 깊이 영상과 유사한 깊이 영상이 출력될 수 있다.
일실시예에 따른 깊이 영상 변환부(140)는 이렇게 출력된 제1 시점으로 시점 변환된 제2 깊이 영상과 제1 깊이 영상을 깊이 공간 상에서 임계치를 이용해 [수학식 4]의 가중치 평균 필터링을 수행함으로써, 깊이 공간에서 영상 영역을 생성할 수 있다.
즉, 일실시예에 따른 깊이 영상 변환부(140)는 상기 생성한 가중치 평균 필터를 적용하여, 상기 제1 시점의 제1 깊이 영상과, 상기 제1 시점으로 시점 변환된 상기 제2 깊이 영상으로부터 제3 깊이 영상을 변환할 수 있다.
이때, 일실시예에 따른 깊이 영상 변환부(140)는 상기 변환된 제3 깊이 영상을 깊이 영상 압축의 부호화에 이용할 수 있다.
즉, 생성된 제3 깊이 영상은 3차원 영상 압축 시스템의 부호화기 입력으로 전달될 수 있다.
상기 제3 깊이 영상이 깊이 영상 압축의 부호화에 이용되는 실시예는 도 3을 통해서 상세히 설명한다.
도 2는 인-루프 위치의 시점간 필터로서 동작하는 영상 처리 장치(200)를 설명하는 블록도이다.
즉, 도 2의 영상 처리 장치(200)는 3차원 영상 압축 시스템에 있어 인-루프 필터링의 기능을 수행할 수 있으며, 압축 깊이 영상에 대하여 인접 시점간 유사성을 향상시켜 영상의 화질을 최대화시켜 압축률을 향상시키는 기능을 지원한다.
도 2에 따르면 다시점의 깊이 영상이 입력될 때 인접 시점에 위치한 깊이 영상간의 높은 상관도를 이용하여 필터링함으로써, 깊이 영상에 내재한 노이즈(noise) 제거 및 압축 효율 향상이 가능한 시점간 필터링(JVF; Joint Inter-view Filter) 방법을 제공할 수 있다.
이를 위해, 일실시예에 따른 영상 처리 장치(200)는 시점 변환부(210), 가중치 평균 필터부(220), 및 깊이 영상 변환부(230)를 포함할 수 있다.
일실시예에 따른 시점 변환부(210)는 제2 시점의 제2 깊이 영상을 제1 시점의 깊이 공간으로 시점 변환할 수 있다.
다음으로, 일실시예에 따른 가중치 평균 필터부(220)는 상기 제1 시점의 제1 깊이 영상 및 상기 제2 깊이 영상 중에서 적어도 하나의 영상 특성에 기초하여 임계치를 결정할 수 있다.
이때, 일실시예에 따른 가중치 평균 필터부(220)는 임계치를 결정하는데 있어, 깊이 영상에 대한 압축 조건까지 고려할 수 있다.
다시 말해, 일실시예에 따른 가중치 평균 필터부(220)는 영상의 특성뿐만 아니라 압축 조건에 따라서 인-루프 시점간 필터의 임계치를 가변적으로 결정할 수 있다.
구체적으로, 일실시예에 따른 가중치 평균 필터부(220)는 상기 제1 시점의 제1 깊이 영상 및 상기 제2 깊이 영상 중에서 적어도 하나의 영상 특성과, 압축 조건을 고려하여 상기 임계치를 결정할 수 있다.
일실시예에 따른 가중치 평균 필터부(220)는 상기 제1 시점의 제1 깊이 영상 및 상기 제2 깊이 영상 중에서 적어도 하나의 영상 특성과, 양자화 파라미터(QP, Quantization Parameter)를 고려하여 매 액세스 유니트(access unit) 마다 또는 매 슬라이스(slice) 마다 상기 임계치를 결정할 수 있다.
또한, 일실시예에 따른 가중치 평균 필터부(220)는 상기 결정된 임계치를 반영하여 상기 시점 변환된 깊이 공간에 가중치 평균 필터링을 수행할 수 있다.
일실시예에 따른 깊이 영상 변환부(230)는 상기 필터링된 깊이 공간을 영상 영역의 제3 깊이 영상으로 변환하여 픽쳐 버퍼로 전송할 수 있다.
상기 제3 깊이 영상이 깊이 영상 압축의 부호화에 이용되는 실시예는 도 3을 통해서 상세히 설명한다.
일실시예에 따른 영상 처리 장치(100, 200)는 영상 제작, 압축, 전송, 표시하는 분야에 이용 가능하다. 또한, 일실시예에 따른 영상 처리 장치(100, 200)는 시청자에게 3차원 입체감을 제공하기 위한 3차원 TV, 다시점 비디오(Multi-view Video), 초다시점 비디오(Super Multi-view Video; SMV), 자유 시점 TV(Free Viewpoint TV; FTV)와 같은 3차원 입체 영상 분야에 이용 가능하다. 특히, 제한된 대역폭으로 인하여 영상의 비트 발생량(bit rate)를 줄이는 분야에서 유용하게 사용이 가능하다.
도 3은 일실시예에 따른 영상 처리 장치(100, 200)가 3차원 영상 압축 시스템의 부호화기(300)에 적용되는 일실시예를 나타내는 도면이다.
일실시예에 따른 3차원 영상 압축 시스템의 부호화기(300)는 전처리 위치의 시점간 필터로서 동작하는 영상 처리 장치(100), 예측부(301), 변환 및 양자화부(302), 엔트로피 코딩부(303), 역양자화 및 역변환부(304), 인-루프 위치에서 시점간 필터로 동작하는 영상 처리 장치(200) 및 픽쳐 버퍼(305)를 포함할 수 있다.
일실시예에 따른 3차원 영상 압축 시스템의 부호화기(300)는 전처리 위치의 시점간 필터로서 동작하는 영상 처리 장치(100)를 이용하여, 입력되는 적어도 하나 이상의 깊이 영상에 대해서 전처리를 수행할 수 있다.
구체적으로, 전처리 위치의 시점간 필터로서 동작하는 영상 처리 장치(100)는 인접 시점간 영상의 유사성을 향상시켜 영상의 압축률을 향상 시키는 전처리 필터링 기능을 수행할 수 있다.
즉, 전처리 위치의 시점간 필터로서 동작하는 영상 처리 장치(100)는 다시점의 깊이 영상이 입력될 때 인접 시점에 위치한 깊이 영상간의 높은 상관도를 이용하여 필터링함으로써, 깊이 영상에 내재한 노이즈(noise) 제거 및 압축 효율 향상이 가능한 시점간 필터링(JVF; Joint Inter-view Filter) 방법을 제공할 수 있다.
이를 위해서, 전처리 위치의 시점간 필터로서 동작하는 영상 처리 장치(100)는 입력되는 적어도 하나 이상의 깊이 영상에 대해 잡음을 제거할 수 있다
예를 들어, 전처리 위치의 시점간 필터로서 동작하는 영상 처리 장치(100)는 레인지 연산을 이용하여 상기 입력되는 적어도 하나 이상의 깊이 영상에 대한 잡음을 제거할 수 있다.
구체적으로, 전처리 위치의 시점간 필터로서 동작하는 영상 처리 장치(100)는 이웃한 픽셀의 집합, 정규화 상수, 이웃한 픽셀의 집합, 현재 위치의 깊이 픽셀, 이웃한 위치의 깊이 픽셀, 레인지 가중치(range weight)로서 레인지 필터의 최적 파라미터 등을 이용하여 잡음을 제거할 수 있다.
전처리 위치의 시점간 필터로서 동작하는 영상 처리 장치(100)는 필터 파라미터의 가능한 범위가 정해진 상태에서 각 필터 파라미터 별로 왜곡(distortion)을 계산할 수 있다.
또한, 전처리 위치의 시점간 필터로서 동작하는 영상 처리 장치(100)는 계산되는 왜곡들 중에서 가장 작은 왜곡을 출력하는 파라미터를 최적 파라미터로 결정할 수 있다.
전처리 위치의 시점간 필터로서 동작하는 영상 처리 장치(100)는 모델링 기반으로 상기 최적 파라미터를 결정할 수도 있다.
이 경우에, 전처리 위치의 시점간 필터로서 동작하는 영상 처리 장치(100)는 각 깊이 영상의 현재 프레임의 양자화 파라미터(QP, Quantization Parameter), 선정된 문턱값 등을 이용하여 상기 최적 파라미터를 결정할 수 있다.
전처리 위치의 시점간 필터로서 동작하는 영상 처리 장치(100)는 상기 잡음 제거된 적어도 하나 이상의 깊이 영상 중에서, 제2 시점의 제2 깊이 영상을 제1 시점의 깊이 공간으로 시점 변환('view warping' or 'view projection')할 수 있다.
전처리 위치의 시점간 필터로서 동작하는 영상 처리 장치(100)는 상기 깊이 공간의 제2 시점을 제1 시점으로 시점 변환시킬 수 있다. 이때, 전처리 위치의 시점간 필터로서 동작하는 영상 처리 장치(100)는 초점 거리(focal length), 베이스라인 거리(baseline spacing), 제1 시점의 깊이 값 등을 이용하여 상기 시점 변환을 수행할 수 있다.
전처리 위치의 시점간 필터로서 동작하는 영상 처리 장치(100)는 상기 제1 시점의 제1 깊이 영상과, 상기 제1 시점으로 시점 변환된 상기 제2 깊이 영상으로부터 적어도 하나 이상의 가중치 계수를 생성하고, 상기 생성된 가중치 계수를 이용하여 가중치 평균 필터를 생성할 수 있다.
전처리 위치의 시점간 필터로서 동작하는 영상 처리 장치(100)는 상기 제1 깊이 영상 및 상기 제2 깊이 영상 중에서 적어도 하나의 표준편차(standard deviation), 분산(variance), 그라디언트(gradient), 및 해상도(resolution) 중에서 적어도 하나를 이용하여 임계치를 결정하고, 상기 결정된 임계치를 이용하여 상기 가중치 계수를 생성할 수 있다.
전처리 위치의 시점간 필터로서 동작하는 영상 처리 장치(100)는 매 시퀀스(sequence) 마다, 매 액세스 유니트(access unit) 마다, 또는 매 슬라이스(slice) 마다 상기 영상 분석을 통하여 계산할 수 있다.
제2 시점의 제2 깊이 영상을 제1 시점으로 시점 변환을 하면, 제1 시점의 제1 깊이 영상과 유사한 깊이 영상이 출력될 수 있다.
전처리 위치의 시점간 필터로서 동작하는 영상 처리 장치(100)는 이렇게 출력된 제1 시점으로 시점 변환된 제2 깊이 영상과 제1 깊이 영상을 깊이 공간 상에서 임계치를 이용해 가중치 평균 필터링을 수행함으로써, 깊이 공간에서 영상 영역을 생성할 수 있다.
다시 말해, 전처리 위치의 시점간 필터로서 동작하는 영상 처리 장치(100)는 상기 생성한 가중치 평균 필터를 적용하여, 상기 제1 시점의 제1 깊이 영상과, 상기 제1 시점으로 시점 변환된 상기 제2 깊이 영상으로부터 제3 깊이 영상을 변환할 수 있다.
전처리 위치의 시점간 필터로서 동작하는 영상 처리 장치(100)는 상기 변환된 제3 깊이 영상을 깊이 영상 압축의 부호화에 이용할 수 있다.
예측부(301)는 크게 인트라 예측(intra prediction)과 인터 예측(inter prediction)을 수행한다.
예측부(301)에서 출력되는 예측 영상과 변환 및 양자화부(302)에서 출력되는 차분 영상이 상기 제3 깊이 영상과 합해져 압축 영상이 생성된다.
3차원 영상 압축 시스템의 부호화기(300)는 인-루프 위치에서 시점간 필터로 동작하는 영상 처리 장치(200)에 의해서 압축 영상에 대하여 복원 필터를 수행하고 결과 영상을 픽쳐 버퍼(305)에 저장하고 부가 정보를 엔트로피 코딩부(303)로 전달할 수 있다.
이 과정에서, 3차원 영상 압축 시스템의 부호화기(300)는 변환 및 양자화부(302)의 출력에 대해서 역양자화 및 역변환부(304)를 이용해서 역양자화 및 역변환을 수행할 수 있다.
영상 처리 장치(200)는 3차원 영상 압축 시스템의 부호화기(300)의 인-루프 위치에서 시점간 필터로 동작하여 깊이 영상에 내재한 노이즈(noise) 제거 및 압축 효율 향상이 가능한 시점간 필터링(JVF; Joint Inter-view Filter) 방법을 제공할 수 있다.
이를 위해, 일실시예에 따른 영상 처리 장치(200)는 제2 시점의 제2 깊이 영상을 제1 시점의 깊이 공간으로 시점 변환할 수 있다.
다음으로, 일실시예에 따른 영상 처리 장치(200)는 상기 제1 시점의 제1 깊이 영상 및 상기 제2 깊이 영상 중에서 적어도 하나의 영상 특성과 깊이 영상에 대한 압축 조건까지 고려하여 임계치를 결정할 수 있다.
일실시예에 따른 영상 처리 장치(200)는 상기 결정된 임계치를 반영하여 상기 시점 변환된 깊이 공간에 가중치 평균 필터링을 수행할 수 있다.
일실시예에 따른 영상 처리 장치(200)는 [수학식 6]을 이용하여, 기저값(Tbase)과 증분값(Tdelta)의 합으로 상기 임계치(Tin - loop)를 결정할 수 있다.
[수학식 6]
Figure pat00009

[수학식 6]에서, Tin - loop는 상기 임계치로 해석될 수 있고, Tbase는 상기 기저값으로 해석될 수 있고, Tdelta는 상기 증분값으로 해석될 수 있다.
일실시예에 따른 영상 처리 장치(200)는 깊이 영상의 표준편차(standard deviation), 분산(variance), 그라디언트(gradient), 및 해상도(resolution) 중에서 어느 하나와 같은 영상 특성을 분석하여 상기 기저값(Tbase)을 결정할 수 있다.
일실시예에 따른 영상 처리 장치(200)는 압축 조건 중 하나인 양자화 파라미터(QP, Quantization Parameter)에 의하여 상기 증분값(Tdelta)을 결정할 수 있다.
[수학식 6]은 일례이며, 단조 감소 함수(monotonically decreasing function)를 이용하여 임계치를 결정할 수도 있다.
다른 일례는, 깊이 영상 특성을 분석없이 복수개의 임계치를 이용하여 필터링을 수행하고 그 중에서 원본 영상과 가장 가까운 화질의 임계치을 최종 임계치로 결정한다. 이때 원본 영상과 가까운 지를 측정하는 방법으로 PSNR, SSD(Sum of Squared Difference), SAD(Sum of Absolute Difference) 등을 이용할 수 있다. 만약에 필터링한 영상의 화질이 부호화 영상의 화질보다 원본 영상과 가깝지 않다면 필터링을 하지 않고, 입력 영상 그대로 출력 영상으로 전달한다. 상기 과정에서 결정된 최종 임계치와 필터링 여부를 결정하는 플래그(flag)는 슬라이스 데이터(slice data) 또는 액세스 단위(access unit)에 포함하여 비트스트림으로 전송할 수 있다.
다른 일례는, 깊이 영상에 대하여 복수개의 가중치(w)을 이용하여 필터링을 수행하고 그 중에서 원본 영상과 가장 가까운 화질의 가중치을 최종 가중치로 결정한다. 이때 원본 영상과 가까운 지를 측정하는 방법으로 PSNR, SSD(Sum of Squared Difference), SAD(Sum of Absolute Difference) 등을 이용할 수 있다. 만약에 필터링한 영상의 화질이 부호화 영상의 화질보다 원본 영상과 가깝지 않다면 필터링을 하지 않고, 입력 영상 그대로 출력 영상으로 전달한다. 상기 과정에서 결정된 최종 가중치는 슬라이스 데이터(slice data) 또는 액세스 단위(access unit)에 포함하여 비트스트림으로 전송할 수 있다. 본 단락에서 설명한 내용은 아래의 [표 1]에서 보는 바와 같이, 의사 코드(pseudo code)를 이용하여 구현할 수 있다. 특히, 최종 가중치가 1인 경우 디코더에서는 부호화 영상에 대하여 필터링을 수행하지 않고 출력하므로, 필터링 연산에 따른 수행 시간(running time)를 절약할 수 있는 장점이 있다.
참고로, 아래 [표 1]은 의사 코드에 관한 것으로서, 원본 영상과 필터링 영상간의 왜곡(distortion)을 계산하여 최종 가중치를 결정하는 과정을 설명한다.
[표 1]
Figure pat00010
일실시예에 따른 영상 처리 장치(200)는 깊이 공간에서 영상 영역으로 변환하고 변환되는 제3 깊이 영상은 다음에 참조 영상으로 사용하기 위하여 픽쳐 버퍼(305)에 저장할 수 있다.
즉, 일실시예에 따른 영상 처리 장치(200)는 상기 필터링된 깊이 공간을 영상 영역의 제3 깊이 영상으로 변환하여 픽쳐 버퍼(305)로 전송할 수 있다.
임계치(Tin-loop)는 매 액세스 유니트(access unit) 마다 또는 매 슬라이스(slice)마다 계산될 수 있고, 엔트로피 코딩(entropy coding) 과정을 거쳐서 비트스트림(bitstream)에 기록될 수 있다.
비트스트림은 채널(channel)을 통과하여 수신단에 전송되며 복호화시에 활용될 수 있다.
아래의 [표 2] 및 [표 3]는 비트스트림에 기록하는 부가 정보를 요약한 것이다. [표 2] 및 [표 3]의 부가 정보는 압축 시스템의 신택스(syntax)에 새롭게 추가되는 요소로 해석될 수 있다.
[표 2]
Figure pat00011
[표 2]는 슬라이스 단위의 비트스트림에 기록하는 부가 정보(임계치)를 개시할 수 있다.
[표 3]
Figure pat00012
[표 3]은 액세스 단위의 비트스트림에 기록하는 부가 정보(임계치)를 개시할 수 있다.
[표 4]
Figure pat00013

[표 4]는 슬라이스 단위의 비트스트림에 기록하는 부가 정보(가중치)를 개시할 수 있다.
[표 5]
Figure pat00014

[표 5]는 액세스 단위의 비트스트림에 기록하는 부가 정보(가중치)를 개시할 수 있다.
도 4는 일실시예에 따른 영상 처리 장치가 3차원 영상 압축 시스템의 복호화기에 인-루프 위치에 적용되는 루프 필터로 구현되는 실시예를 나타내는 도면이다.
도 4를 참조하면, 일실시예에 따른 영상 처리 장치(410)는 루프 필터의 형태로 3차원 영상 압축 시스템의 복호화기(400)에 포함될 수 있다.
일실시예에 따른 3차원 영상 압축 시스템의 복호화기(400)는 엔트로피 디코딩부(401), 역양자화 및 역변환부(402), 예측부(403), 영상 처리 장치(410) 및 픽쳐 버퍼(404)를 포함할 수 있다.
3차원 영상 압축 시스템의 복호화기(400)는 엔트로피 디코딩부(401)에서 압축 시스템의 부호화기로부터 전송되는 비트 스트림을 수신하고, 수신된 비트 스트림으로부터 부가 정보를 획득할 수 있다.
또한, 3차원 영상 압축 시스템의 복호화기(400)는 역양자화 및 역변환부(402)에서 상기 획득된 부가 정보를 이용하여 깊이 영상을 복원할 수 있고, 복원된 깊이 영상은 영상 처리 장치(410)를 통해 픽쳐 버퍼(305)에 저장할 수 있다.
일실시예에 따른 영상 처리 장치(410)는 입력된 다시점 깊이 영상에 대응되는 비트스트림으로부터 인접 시점에 위치한 깊이 영상간의 높은 상관도를 이용하여 필터링함으로써, 깊이 영상에 내재한 노이즈(noise) 제거 및 압축 효율 향상시킬 수 있다.
예측부(403)는 크게 인트라 예측(intra prediction)과 인터 예측(inter prediction)을 수행한다.
도 5는 깊이 영상의 시점 변환을 설명하는 도면이다.
일실시예에 따른 영상 처리 장치는 제2 시점의 제2 깊이 영상(510)을 제1 시점으로 시점 변환하고, 제2 시점으로 시점 변환된 제2 깊이 영상(520)과 제1 깊이 영상(530)에 대해서 가중치 평균을 적용하여 필터링을 수행할 수 있다.
제2 시점으로 시점 변환된 제2 깊이 영상(520)은 제1 깊이 영상(530)과 유사하고, 유사한 정도, 즉 상관도를 적용하여 제2 깊이 영상(520)과 제1 깊이 영상(530)을 같은 깊이 공간에서 임계치를 적용하여 가중치 평균 필터링을 수행할 수 있다.
이로써, 일실시예에 따른 영상 처리 장치는 제2 깊이 영상(520)과 제1 깊이 영상(530)을 제3 깊이 영상으로 변환할 수 있다.
결국, 일실시예에 따른 영상 처리 장치를 이용하면, 3차원 영상 압축 시스템에서 깊이 영상의 화질을 향상시키고 압축률을 향상시킬 수 있다.
 도 6은 전처리 위치의 시점간 필터로서 동작하는 영상 처리 장치의 영상 처리 방법을 설명하는 흐름도이다.
전처리 위치의 시점간 필터로서 동작하는 영상 처리 방법은 잡음 제거부에서, 입력되는 적어도 하나 이상의 깊이 영상에 대해 잡음을 제거할 수 있다(단계 601).
전처리 위치의 시점간 필터로서 동작하는 영상 처리 방법은 다시점의 깊이 영상이 입력될 때 인접 시점에 위치한 깊이 영상간의 높은 상관도를 이용하여 필터링함으로써, 깊이 영상에 내재한 노이즈(noise) 제거 및 압축 효율 향상이 가능한 시점간 필터링(JVF; Joint Inter-view Filter) 방법을 제공할 수 있다.
전처리 위치의 시점간 필터로서 동작하는 영상 처리 방법은 레인지 연산을 이용하여 상기 입력되는 적어도 하나 이상의 깊이 영상에 대한 잡음을 제거할 수 있다.
구체적으로, 전처리 위치의 시점간 필터로서 동작하는 영상 처리 방법은 이웃한 픽셀의 집합, 정규화 상수, 이웃한 픽셀의 집합, 현재 위치의 깊이 픽셀, 이웃한 위치의 깊이 픽셀, 레인지 가중치(range weight)로서 레인지 필터의 최적 파라미터 등을 이용하여 잡음을 제거할 수 있다.
전처리 위치의 시점간 필터로서 동작하는 영상 처리 방법은 시점 변환부에서, 상기 잡음 제거된 적어도 하나 이상의 깊이 영상 중에서, 제2 시점의 제2 깊이 영상을 제1 시점의 깊이 공간으로 시점 변환할 수 있다(단계 602).
이를 위해, 전처리 위치의 시점간 필터로서 동작하는 영상 처리 방법은 상기 시점 변환부에서, 상기 제2 깊이 영상을 깊이 공간으로 변환하고, 상기 변환된 깊이 공간을 이용하여 상기 제2 깊이 영상을 상기 제1 시점의 깊이 공간으로 시점 변환할 수 있다.
구체적으로, 전처리 위치의 시점간 필터로서 동작하는 영상 처리 방법은 상기 깊이 공간의 제2 시점을 제1 시점으로 시점 변환시킬 수 있다. 이때, 전처리 위치의 시점간 필터로서 동작하는 영상 처리 방법은 초점 거리(focal length), 베이스라인 거리(baseline spacing), 제1 시점의 깊이 값 등을 이용하여 상기 시점 변환을 수행할 수 있다.
전처리 위치의 시점간 필터로서 동작하는 영상 처리 방법은 가중치 평균 필터부에서, 상기 제1 시점의 제1 깊이 영상과, 상기 제1 시점으로 시점 변환된 상기 제2 깊이 영상으로부터 적어도 하나 이상의 가중치 계수를 생성할 수 있다(단계 603).
이를 위해, 전처리 위치의 시점간 필터로서 동작하는 영상 처리 방법은 상기 가중치 평균 필터부에서, 상기 제1 깊이 영상 및 상기 제2 깊이 영상 중에서 적어도 하나의 표준편차(standard deviation), 분산(variance), 그라디언트(gradient), 및 해상도(resolution) 중에서 적어도 하나를 이용하여 임계치를 결정할 수 있다.
또한, 전처리 위치의 시점간 필터로서 동작하는 영상 처리 방법은 상기 결정된 임계치를 이용하여 상기 가중치 계수를 생성할 수 있다.
전처리 위치의 시점간 필터로서 동작하는 영상 처리 방법은 상기 가중치 평균 필터부에서, 상기 생성된 가중치 계수를 이용하여 가중치 평균 필터를 생성할 수 있다(단계 604).
전처리 위치의 시점간 필터로서 동작하는 영상 처리 방법은 상기 제1 시점의 제1 깊이 영상과, 상기 제1 시점으로 시점 변환된 상기 제2 깊이 영상으로부터 적어도 하나 이상의 가중치 계수를 생성하고, 상기 생성된 가중치 계수를 이용하여 가중치 평균 필터를 생성할 수 있다.
전처리 위치의 시점간 필터로서 동작하는 영상 처리 방법은 제1 깊이 영상 및 상기 제2 깊이 영상 중에서 적어도 하나의 표준편차(standard deviation), 분산(variance), 그라디언트(gradient), 및 해상도(resolution) 중에서 적어도 하나를 이용하여 임계치를 결정하고, 상기 결정된 임계치를 이용하여 상기 가중치 계수를 생성할 수 있다.
전처리 위치의 시점간 필터로서 동작하는 영상 처리 방법은 깊이 영상 변환부에서, 상기 생성한 가중치 평균 필터를 적용하여, 상기 제1 시점의 제1 깊이 영상과, 상기 제1 시점으로 시점 변환된 상기 제2 깊이 영상으로부터 제3 깊이 영상을 변환할 수 있다(단계 605).
상기 변환된 제3 깊이 영상은 깊이 영상 압축의 부호화에 이용될 수 있다.
결국, 전처리 위치의 시점간 필터로서 동작하는 영상 처리 방법은 원 영상으로부터 여러 가지 노이즈와 중요하지 않은 부분을 제거하여 영상의 비트 발생량을 최소화시켜 압축률을 향상시킬 수 있다.
또한, 전처리 위치의 시점간 필터로서 동작하는 영상 처리 방법은 인접 시점간 영상의 유사성을 향상시켜 영상의 화질을 최대화시켜 압축률을 향상시킬 수 있다.
또한, 전처리 위치의 시점간 필터로서 동작하는 영상 처리 방법은 다시점의 깊이 영상이 입력될 때 인접 시점에 위치한 깊이 영상간의 높은 상관도를 이용하여 필터링함으로써, 깊이 영상에 내재한 노이즈(noise) 제거 및 압축 효율 향상이 가능한 시점간 필터링(JVF; Joint Inter-view Filter) 방법을 제공할 수 있다.
도 7은 인-루프 위치의 시점간 필터로서 동작하는 영상 처리 장치의 영상 처리 방법을 설명하는 흐름도이다.
인-루프 위치의 시점간 필터로서 동작하는 영상 처리 방법은 시점 변환부에서, 제2 시점의 제2 깊이 영상을 제1 시점의 깊이 공간으로 시점 변환할 수 있다(단계 701).
인-루프 위치의 시점간 필터로서 동작하는 영상 처리 방법은 가중치 평균 필터부에서, 상기 제1 시점의 제1 깊이 영상 및 상기 제2 깊이 영상 중에서 적어도 하나의 영상 특성 및 압축 조건을 고려하여 임계치를 결정할 수 있다(단계 702).
이를 위해, 인-루프 위치의 시점간 필터로서 동작하는 영상 처리 방법은 상기 제1 시점의 제1 깊이 영상 및 상기 제2 깊이 영상 중에서 적어도 하나의 영상 특성과, 양자화 파라미터(QP, Quantization Parameter)를 고려하여 매 액세스 유니트(access unit) 마다 또는 매 슬라이스(slice) 마다 상기 임계치를 결정할 수 있다.
인-루프 위치의 시점간 필터로서 동작하는 영상 처리 방법은 상기 가중치 평균 필터부에서, 상기 결정된 임계치를 반영하여 상기 시점 변환된 깊이 공간에 가중치 평균 필터링을 수행할 수 있다(단계 703).
인-루프 위치의 시점간 필터로서 동작하는 영상 처리 방법은 깊이 영상 변환부에서, 상기 필터링된 깊이 공간을 영상 영역의 제3 깊이 영상으로 변환하여 픽쳐 버퍼로 전송 할 수 있다(단계 704).
결국, 인-루프 위치의 시점간 필터로서 동작하는 영상 처리 방법은 3차원 영상 압축 시스템에 있어 압축 깊이 영상에 대하여 인접 시점간 유사성을 향상시켜 영상의 화질을 최대화시켜 압축률을 향상시킬 수 있다.
실시예에 따른 방법은 깊이 영상 이외의 색상 영상에 대하여 적용할 수 있다. 색상 영상에 적용할 경우는 색상 영상에 대응하는 깊이 영상의 변위 정보(disparity)을 이용하여 색상 영상을 시점간 변환한다.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상과 같이 실시예들이 비록 한정된 실시예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.
그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.
100: 영상 처리 장치 110: 잡음 제거부
120: 시점 변환부 130: 가중치 평균 필터부
140: 깊이 영상 변환부

Claims (15)

  1. 입력되는 적어도 하나 이상의 깊이 영상에 대해 잡음을 제거하는 잡음 제거부;
    입력되는 적어도 하나 이상의 깊이 영상 중에서, 제2 시점의 제2 깊이 영상을 제1 시점의 깊이 공간으로 시점 변환하는 시점 변환부;
    상기 제1 시점의 제1 깊이 영상과, 상기 제1 시점으로 시점 변환된 상기 제2 깊이 영상으로부터 적어도 하나 이상의 가중치 계수를 생성하고, 상기 생성된 가중치 계수를 이용하여 가중치 평균 필터를 생성하는 가중치 평균 필터부; 및
    상기 생성한 가중치 평균 필터를 적용하여, 상기 제1 시점의 제1 깊이 영상과, 상기 제1 시점으로 시점 변환된 상기 제2 깊이 영상으로부터 제3 깊이 영상을 변환하는 깊이 영상 변환부
    를 포함하고,
    상기 변환된 제3 깊이 영상은 깊이 영상 압축의 부호화에 이용되는 영상 처리 장치.
  2. 제1항에 있어서,
    상기 잡음 제거부는,
    레인지 연산을 이용하여 상기 입력되는 적어도 하나 이상의 깊이 영상에 대한 잡음을 제거하는 영상 처리 장치.
  3. 제1항에 있어서,
    상기 시점 변환부는,
    상기 제2 깊이 영상을 깊이 공간으로 변환하고, 상기 변환된 깊이 공간을 이용하여 상기 제2 깊이 영상을 상기 제1 시점의 깊이 공간으로 시점 변환하는 영상 처리 장치.
  4. 제1항에 있어서,
    상기 가중치 평균 필터부는,
    상기 제1 깊이 영상 및 상기 제2 깊이 영상 중에서 적어도 하나의 표준편차(standard deviation), 분산(variance), 그라디언트(gradient), 및 해상도(resolution) 중에서 적어도 하나를 이용하여 임계치를 결정하고, 상기 결정된 임계치를 이용하여 상기 가중치 계수를 생성하는 영상 처리 장치.
  5. 제2 시점의 제2 깊이 영상을 제1 시점의 깊이 공간으로 시점 변환하는 시점 변환부;
    상기 제1 시점의 제1 깊이 영상 및 상기 제2 깊이 영상 중에서 적어도 하나의 영상 특성에 기초하여 임계치를 결정하고, 상기 결정된 임계치를 반영하여 상기 시점 변환된 깊이 공간에 가중치 평균 필터링을 수행하는 가중치 평균 필터부; 및
    상기 필터링된 깊이 공간을 영상 영역의 제3 깊이 영상으로 변환하여 픽쳐 버퍼로 전송하는 깊이 영상 변환부
    를 포함하는 영상 처리 장치.
  6. 제5항에 있어서,
    상기 가중치 평균 필터부는,
    상기 제1 시점의 제1 깊이 영상 및 상기 제2 깊이 영상 중에서 적어도 하나의 영상 특성과, 압축 조건을 고려하여 상기 임계치를 결정하는 영상 처리 장치.
  7. 제6항에 있어서,
    상기 가중치 평균 필터부는,
    상기 제1 시점의 제1 깊이 영상 및 상기 제2 깊이 영상 중에서 적어도 하나의 영상 특성과, 양자화 파라미터(QP, Quantization Parameter)를 고려하여 매 액세스 유니트(access unit) 마다 또는 매 슬라이스(slice) 마다 상기 임계치를 결정하는 영상 처리 장치.
  8. 잡음 제거부에서, 입력되는 적어도 하나 이상의 깊이 영상에 대해 잡음을 제거하는 단계;
    시점 변환부에서, 상기 잡음 제거된 적어도 하나 이상의 깊이 영상 중에서, 제2 시점의 제2 깊이 영상을 제1 시점의 깊이 공간으로 시점 변환하는 단계;
    가중치 평균 필터부에서, 상기 제1 시점의 제1 깊이 영상과, 상기 제1 시점으로 시점 변환된 상기 제2 깊이 영상으로부터 적어도 하나 이상의 가중치 계수를 생성하는 단계;
    상기 가중치 평균 필터부에서, 상기 생성된 가중치 계수를 이용하여 가중치 평균 필터를 생성하는 단계; 및
    깊이 영상 변환부에서, 상기 생성한 가중치 평균 필터를 적용하여, 상기 제1 시점의 제1 깊이 영상과, 상기 제1 시점으로 시점 변환된 상기 제2 깊이 영상으로부터 제3 깊이 영상을 변환하는 단계
    를 포함하고,
    상기 변환된 제3 깊이 영상은 깊이 영상 압축의 부호화에 이용되는 영상 처리 방법.
  9. 제8항에 있어서,
    상기 시점 변환하는 단계는,
    상기 시점 변환부에서, 상기 제2 깊이 영상을 깊이 공간으로 변환하는 단계; 및
    상기 변환된 깊이 공간을 이용하여 상기 제2 깊이 영상을 상기 제1 시점의 깊이 공간으로 시점 변환하는 단계
    를 포함하는 영상 처리 방법.
  10. 제8항에 있어서,
    상기 가중치 계수를 생성하는 단계는,
    상기 가중치 평균 필터부에서, 상기 제1 깊이 영상 및 상기 제2 깊이 영상 중에서 적어도 하나의 표준편차(standard deviation), 분산(variance), 그라디언트(gradient), 및 해상도(resolution) 중에서 적어도 하나를 이용하여 임계치를 결정하는 단계; 및
    상기 결정된 임계치를 이용하여 상기 가중치 계수를 생성하는 단계
    를 포함하는 영상 처리 방법.
  11. 시점 변환부에서, 제2 시점의 제2 깊이 영상을 제1 시점의 깊이 공간으로 시점 변환하는 단계;
    가중치 평균 필터부에서, 상기 제1 시점의 제1 깊이 영상 및 상기 제2 깊이 영상 중에서 적어도 하나의 영상 특성 및 압축 조건을 고려하여 임계치를 결정하는 단계;
    상기 가중치 평균 필터부에서, 상기 결정된 임계치를 반영하여 상기 시점 변환된 깊이 공간에 가중치 평균 필터링을 수행하는 단계; 및
    깊이 영상 변환부에서, 상기 필터링된 깊이 공간을 영상 영역의 제3 깊이 영상으로 변환하여 픽쳐 버퍼로 전송하는 단계
    를 포함하는 영상 처리 방법.
  12. 제11항에 있어서,
    상기 임계치를 결정하는 단계는,
    상기 제1 시점의 제1 깊이 영상 및 상기 제2 깊이 영상 중에서 적어도 하나의 영상 특성과, 양자화 파라미터(QP, Quantization Parameter)를 고려하여 매 액세스 유니트(access unit) 마다 또는 매 슬라이스(slice) 마다 상기 임계치를 결정하는 단계
    를 포함하는 영상 처리 방법.
  13. 제11항에 있어서,
    상기 임계치를 결정하는 단계는,
    복수개의 임계치를 이용하여 상기 깊이 공간에 필터링을 수행하고, 상기 필터링된 원본 영상과 가장 가까운 화질의 임계치를 최종 임계치로 결정하는 단계
    를 포함하는 영상 처리 방법.
  14. 제11항에 있어서,
    상기 가중치를 결정하는 단계는,
    복수개의 가중치를 이용하여 상기 깊이 공간에 필터링을 수행하고, 상기 필터링된 원본 영상과 가장 가까운 화질의 가중치를 최종 가중치로 결정하는 단계
    를 포함하는 영상 처리 방법.
  15. 제8항 내지 제14항 중에서 어느 한 항의 방법을 수행하기 위한 프로그램이 기록된 컴퓨터로 판독 가능한 기록 매체.
KR1020120100237A 2012-09-11 2012-09-11 시점간 상관성을 이용한 영상 처리 방법 및 장치 KR20140034400A (ko)

Priority Applications (4)

Application Number Priority Date Filing Date Title
KR1020120100237A KR20140034400A (ko) 2012-09-11 2012-09-11 시점간 상관성을 이용한 영상 처리 방법 및 장치
US14/017,716 US20140071233A1 (en) 2012-09-11 2013-09-04 Apparatus and method for processing image using correlation between views
EP13183913.6A EP2723083A3 (en) 2012-09-11 2013-09-11 Apparatus and method for processing image using correlation between views
CN201310412382.4A CN103686192A (zh) 2012-09-11 2013-09-11 用于使用视点之间的相关性对图像进行处理的设备和方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020120100237A KR20140034400A (ko) 2012-09-11 2012-09-11 시점간 상관성을 이용한 영상 처리 방법 및 장치

Publications (1)

Publication Number Publication Date
KR20140034400A true KR20140034400A (ko) 2014-03-20

Family

ID=49223554

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020120100237A KR20140034400A (ko) 2012-09-11 2012-09-11 시점간 상관성을 이용한 영상 처리 방법 및 장치

Country Status (4)

Country Link
US (1) US20140071233A1 (ko)
EP (1) EP2723083A3 (ko)
KR (1) KR20140034400A (ko)
CN (1) CN103686192A (ko)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6242171B2 (ja) * 2013-11-13 2017-12-06 キヤノン株式会社 画像処理装置、画像処理方法、プログラム
EP3255605B1 (en) * 2015-11-16 2021-06-02 Huawei Technologies Co., Ltd. Method and apparatus for smoothing video
TWI572209B (zh) * 2016-02-19 2017-02-21 致伸科技股份有限公司 影像景深測量方法以及應用該方法的影像擷取裝置與電子裝置
CN111669601B (zh) * 2020-05-21 2022-02-08 天津大学 一种3d视频智能多域联合预测编码方法及装置

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5406182B2 (ja) * 2007-06-26 2014-02-05 コーニンクレッカ フィリップス エヌ ヴェ 3次元ビデオ信号をエンコードするための方法及びシステム、含まれる3次元ビデオ信号、並びに3次元ビデオ信号のためのデコーダのための方法及び信号
JP5536676B2 (ja) * 2008-03-04 2014-07-02 トムソン ライセンシング 仮想参照ビュー
BRPI0916963A2 (pt) * 2008-08-20 2015-11-24 Thomson Licensing mapa de profundidade refinado
WO2010041176A1 (en) * 2008-10-10 2010-04-15 Koninklijke Philips Electronics N.V. A method of processing parallax information comprised in a signal
US9066075B2 (en) * 2009-02-13 2015-06-23 Thomson Licensing Depth map coding to reduce rendered distortion
US8667109B2 (en) 2009-04-30 2014-03-04 Empire Technology Development Llc User profile-based wireless device system level management
EP2293586A1 (en) * 2009-08-04 2011-03-09 Samsung Electronics Co., Ltd. Method and system to transform stereo content
KR20120089561A (ko) * 2009-09-22 2012-08-13 파나소닉 주식회사 이미지 부호화 장치, 이미지 복호화 장치, 이미지 부호화 방법, 및 이미지 복호화 방법
KR101807886B1 (ko) * 2009-10-14 2017-12-11 돌비 인터네셔널 에이비 깊이 맵 처리를 위한 방법 및 디바이스
KR101430714B1 (ko) 2010-06-30 2014-08-18 코오롱인더스트리 주식회사 라이오셀 방사용 도프, 이를 이용한 라이오셀 필라멘트 섬유의 제조 방법 및 이로부터 제조되는 라이오셀 필라멘트 섬유
US9049459B2 (en) * 2011-10-17 2015-06-02 Exaimage Corporation Video multi-codec encoders
KR101334187B1 (ko) * 2011-07-25 2013-12-02 삼성전자주식회사 다시점 렌더링 장치 및 방법
US9191646B2 (en) * 2011-08-29 2015-11-17 Nokia Technologies Oy Apparatus, a method and a computer program for video coding and decoding
EP2795907A4 (en) * 2011-12-22 2015-07-15 Ericsson Telefon Ab L M METHOD AND PROCESSOR FOR 3D SCENE REPRESENTATION

Also Published As

Publication number Publication date
EP2723083A2 (en) 2014-04-23
CN103686192A (zh) 2014-03-26
EP2723083A3 (en) 2014-08-20
US20140071233A1 (en) 2014-03-13

Similar Documents

Publication Publication Date Title
JP4786534B2 (ja) マルチビュービデオを分解する方法及びシステム
KR101366093B1 (ko) 영상의 부호화, 복호화 방법 및 장치
US9319711B2 (en) Joint sub-pixel interpolation filter for temporal prediction
KR101650936B1 (ko) 복수의 보간 필터링 방법 및 이를 적용한 부호화 장치
KR101857755B1 (ko) 스킵 모드를 이용한 영상 복호화 방법 및 이러한 방법을 사용하는 장치
KR20110071047A (ko) 비디오 신호 디코딩 방법 및 장치
KR20160114566A (ko) 동영상 부호화 장치 및 그 방법
KR20120000485A (ko) 예측 모드를 이용한 깊이 영상 부호화 장치 및 방법
KR20170002460A (ko) 임베디드 블록 파티셔닝을 이용하여 비디오 신호를 인코딩, 디코딩하는 방법 및 장치
JP6027143B2 (ja) 画像符号化方法、画像復号方法、画像符号化装置、画像復号装置、画像符号化プログラム、および画像復号プログラム
KR20080088046A (ko) 움직임 보상 필터링을 이용한 영상 부호화, 복호화 방법 및장치
JP6042899B2 (ja) 映像符号化方法および装置、映像復号方法および装置、それらのプログラム及び記録媒体
KR20140034400A (ko) 시점간 상관성을 이용한 영상 처리 방법 및 장치
KR20110086521A (ko) 영역 기반의 부호화/복호화 장치 및 방법
KR102550743B1 (ko) 비디오 부호화 및 복호화 방법, 그를 이용한 장치
KR20190140399A (ko) 인터 예측 방법 및 영상 복호화 장치
US10911779B2 (en) Moving image encoding and decoding method, and non-transitory computer-readable media that code moving image for each of prediction regions that are obtained by dividing coding target region while performing prediction between different views
JP5706291B2 (ja) 映像符号化方法,映像復号方法,映像符号化装置,映像復号装置およびそれらのプログラム
KR20210043546A (ko) 비디오 신호의 디코딩 방법 및 장치
KR20130098121A (ko) 적응적 보간 필터를 이용하는 영상 부호화/복호화 장치 및 영상을 부호화/복호화하는 방법
Shen et al. Efficient depth coding in 3D video to minimize coding bitrate and complexity
KR102072204B1 (ko) 영상의 화질을 개선하는 장치 및 방법
KR20130091500A (ko) 깊이 영상 처리 장치 및 방법
KR20130090846A (ko) 깊이 영상 복호화 방법 및 장치
Zhang Advanced techniques for high fidelity video coding

Legal Events

Date Code Title Description
WITN Application deemed withdrawn, e.g. because no request for examination was filed or no examination fee was paid