KR102274319B1 - 영상을 부호화하는 방법, 장치, 프로그램 및 영상을 복호화하는 방법, 장치, 프로그램 및 영상 처리 시스템 - Google Patents

영상을 부호화하는 방법, 장치, 프로그램 및 영상을 복호화하는 방법, 장치, 프로그램 및 영상 처리 시스템 Download PDF

Info

Publication number
KR102274319B1
KR102274319B1 KR1020140187507A KR20140187507A KR102274319B1 KR 102274319 B1 KR102274319 B1 KR 102274319B1 KR 1020140187507 A KR1020140187507 A KR 1020140187507A KR 20140187507 A KR20140187507 A KR 20140187507A KR 102274319 B1 KR102274319 B1 KR 102274319B1
Authority
KR
South Korea
Prior art keywords
image
filter
filtering
color difference
information
Prior art date
Application number
KR1020140187507A
Other languages
English (en)
Other versions
KR20150075382A (ko
Inventor
나오후미 와다
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Publication of KR20150075382A publication Critical patent/KR20150075382A/ko
Application granted granted Critical
Publication of KR102274319B1 publication Critical patent/KR102274319B1/ko

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/59Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial sub-sampling or interpolation, e.g. alteration of picture size or resolution
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

색차 신호가 다운 샘플링된 다운 샘플링 영상을 부호화하는 부호화부, 부호화된 부호화 영상을 복호화하는 복호화부, 복호화된 복호화 영상의 색차 신호를 업 샘플링하고, 업 샘플링된 복호화 영상의 색차 신호와 휘도 신호를 참조 신호로 이용하여 복호화 영상의 색차 신호를 필터링하고, 필터링과 연관된 필터 정보를 획득하는 필터 정보 생성부를 포함하는 영상 부호화 장치가 개시된다.

Description

영상을 부호화하는 방법, 장치, 프로그램 및 영상을 복호화하는 방법, 장치, 프로그램 및 영상 처리 시스템 {Method and apparatus for encoding and decoding image and recording medium thereof and system for processing image}
본 발명은 영상을 부호화하는 장치, 영상을 부호화하는 방법 및 영상을 부호화하는 방법을 수행하는 프로그램에 관한 것이다. 또한, 본 발명은 영상을 복호화하는 장치, 영상을 복호화하는 방법 및 영상을 복호화하는 방법을 수행하는 프로그램에 관한 것이다. 또한, 본 발명은 영상을 처리하는 시스템에 관한 것이다.
JPEG, MPEG2, H. 264, HEVC 와 같은 영상 부호화 기술을 적용하는데 있어, 부호화 효율을 높이면서, 화질의 열화를 억제할 수 있는 기술들이 알려져 있다. 예를 들면, 부호화에 의해 열화된 영상을 복호화하는 경우, 포스트(post) 필터를 적용함으로써 복호화된 영상의 노이즈를 줄일 수 있다.
비특허 문헌 1(C. Tomasi and R. Manduchi, "Bilateral filtering for gray and color images", IEEE International Conference on Computer Vision (ICCV1998), pp.839-846, Jan. 1998)에 기재된 바이래터럴(bilateral) 필터는 엣지(edge)를 유지한 채로 이미지를 평활화하여, 노이즈를 줄일 수 있는 비선형 필터의 하나이다. 또한, 특허 문헌 1(특개 2009-153013호 공보)이나 특허 문헌 2(특개 2012-216888호 공보)에도, 바이래터럴 필터에 관한 내용이 기재되어 있다.
비특허 문헌 2(S. Wittmann and T. Wedi, "Post-filter SEI message for 4:4:4 coding", JVT (Joint Video Team) of ISO/IEC MPEG & ITU-T VCEG, JVT-S030, April, 2006)는, 부호화 측에서 열화 전의 소스 영상(원 영상)을 가지는 것을 이용하여, 복호화 영상과 소스 영상과의 제곱 오차가 최소가 되도록 위너(weiner) 필터의 계수를 부호화 측에서 설계 및·송신하여, 복호화 측에서 포스트 필터링을 수행한다.
특허 문헌 3(국제 공개 제2009-110160호)은, 동영상을 부호화하는데 있어서, 루프 필터로 적용되는 위너 필터의 계수를, 비특허 문헌 2와 동일하게 설계하고, 소스 영상 및 복호화 영상과의 제곱 오차가 최소가 되도록 블록 마다 필터의 적용 또는 비적용 여부를 적응적으로 바꾸는 정보를 설정 및·송신함으로써 부호화 효율을 향상시킨다. 또, 특허 문헌 4(특표 2007-506361호 공보), 특허 문헌 5(특개 2003-179933호 공보) 및 특허 문헌 6(미국 특허 출원 공개 제2011/0243249호 명세서)에서도, 특허 문헌 3과 동하게, 부호화 측에서 생성한 정보를 전송함으로써 복호화 측의 필터를 제어한다.
기존의 JPEG이나 MPEG등의 부호화 기술에서는, 휘도 신호(Y)와 색차 신호(Cb, Cr)로부터 완성되는 YCbCr 표색계를 이용하는 것이 일반적이다. 또, Y, Cb, Cr이 각각 같은 해상도인 4: 4: 4 형식보다, Cb, Cr를 서브 샘플링 한 4: 2: 2 형식이나 4: 2: 0 형식이 이용된다. 4: 4: 4 형식의 오리지날 신호와 비교하였을 때, 4: 2: 2 형식이나 4: 2: 0 형식에서는, 색차 신호에 부호화로 인한 왜곡뿐만 아니라 서브 샘플링에 의한 화질 열화가 생긴다.
전술한 종래 기술들은, 모두 부호화 후의 4: 2: 0 형식의 색차 영상을 열화가 일어나지 않은 부호화 전의 4: 4: 4 형식의 색차 영상에 맞추는 색화질 개선방법이 아니므로, 부호화 효율은 향상시킬 수 있었지만, 화질을 개선하는데 있어서는 불충분한 점이 존재한다.
한편, 비특허 문헌 3에는, 특성이 다른 2개의 영상을 이용한 조인트 바이래터럴 필터(joint bilateral filter)로 불리는 참조형 필터를 이용한 화질 개선 방법이 개시되고 있다. 비특허 문헌 3(G. Petschnigg, M. Agrawala, H. Hoppe, R. Szeliski, M. Cohen and K. Toyama, "Digital photography with flash and no-flash image pairs", ACM Transactions on Graphics (SIGGRAPH2004), vol. 23, no. 3, pp. 664-672, Aug. 2004) 에서는, 플래시 영상과 노-플래시(no-flash) 영상이라고 하는 휘도값의 상관이 높은 2개의 영상을 이용해 노이즈가 적은 플래시 영상을 참조 영상으로서 이용하면서, 노-플래시 영상에 조인트 바이래터럴 필터를 적용하는 것으로써, 노-플래시 영상의 자연스러움을 해치지 않고 노이즈를 감소시킨다.
하지만, 종래의 조인트 바이래터럴 필터에서는, 휘도 신호만을 참조 신호 및 대상 신호로 하고 있어, 색차 신호의 개선에 대해 고려하지 않으므로 화질이 충분히 개선되지 않을 우려가 있다.
이와 같이, 종래 기술은 화질을 개선하는 것과 동시에, 부호화 효율을 향상시키는 것이 어렵다는 문제가 있었다.
본 발명의 일 실시예에 따른 영상 부호화 장치는 색차 신호가 다운 샘플링 된 다운 샘플링 영상을 부호화하는 부호화부; 상기 부호화된 부호화 영상을 복호화하는 복호화부; 상기 복호화된 복호화 영상의 색차 신호를 업 샘플링하고, 상기 업 샘플링 된 복호화 영상의 색차 신호와 휘도 신호를 참조 신호로 이용하여 상기 복호화 영상의 색차 신호를 필터링하고, 상기 필터링과 연관된 필터 정보를 획득하는 필터 정보 생성부를 포함한다.
본 발명의 일 실시예에 따른 영상 부호화 장치는, 상기 획득된 필터 정보와 상기 부호화 영상을 멀티플렉싱(multiplexing)하여 부호화 데이터를 생성하는 멀티플렉싱부를 더 포함한다.
본 발명의 일 실시예에 따른 영상 부호화 장치는, 상기 복호화 영상의 색차 신호를 업 샘플링하는 업 샘플링부; 및 상기 업 샘플링 된 복호화 영상을 필터링하는 필터링부를 더 포함한다.
본 발명의 일 실시예에 따른 영상 부호화 장치에 있어서, 상기 필터 정보는,필터의 크기 또는 강도를 제어하는 정보인 필터 파라미터를 포함한다.
본 발명의 일 실시예에 따른 영상 부호화 장치에 있어서, 상기 필터 정보는, 상기 필터링이 수행되는 프레임의 특징에 따라 결정되는 적응적 파라미터를 포함한다.
본 발명의 일 실시예에 따른 영상 부호화 장치에 있어서, 상기 필터 정보는, 필터 타입에 관한 정보를 포함하고, 상기 필터 타입은 상기 필터링의 수행 여부를 나타내는 제 1 인덱스 및 상기 필터링에 적어도 하나의 가중치를 적용할 지 여부를 나타내는 제 2 인덱스를 포함한다.
본 발명의 일 실시예에 따른 영상 부호화 장치에 있어서, 상기 제 2 인덱스는, 상기 필터링이 수행되는 경우에만 설정된다.
본 발명의 일 실시예에 따른 영상 부호화 장치에 있어서, 상기 제 2 인덱스는, 상기 필터링에 거리 가중치, 휘도 가중치, 제 1 색차 가중치 및 제 2 색차 가중치 중 적어도 하나의 가중치를 적용할 지 여부를 나타낸다.
본 발명의 일 실시예에 따른 영상 부호화 장치에 있어서, 상기 필터 정보 생성부는, 상기 다운 샘플링 영상이 다운 샘플링 되기 이전의 영상과 상기 필터링된 복호화 영상간의 오차가 최소화되도록 필터 정보의 최적값을 결정한다.
본 발명의 일 실시예에 따른 영상 복호화 장치는 색차 신호가 다운 샘플링된 다운 샘플링 영상을 부호화한 부호화 영상과 필터 정보를 포함하는 부호화 데이터를 수신하는 수신부; 상기 부호화 데이터로부터 상기 부호화 영상과 상기 필터 정보를 분리하는 필터 정보 분리부; 상기 분리된 부호화 영상을 복호화 하는 복호화부; 및 상기 복호화된 복호화 영상의 색차 신호를 업 샘플링하고, 상기 업 샘플링 된 복호화 영상의 색차 신호와 휘도 신호를 참조 신호로 이용하여 상기 필터 정보에 따라 상기 복호화 영상의 색차 신호를 필터링 하는 필터링부를 포함한다.
본 발명의 일 실시예에 따른 영상 복호화 장치에 있어서, 상기 수신부는, 상기 부호화 영상과 상기 필터 정보가 멀티플렉싱 된 부호화 데이터로부터 상기 부호화 영상과 상기 필터 정보를 분리하는 필터 정보 분리부를 포함한다.
본 발명의 일 실시예에 따른 영상 복호화 장치에 있어서, 상기 필터 정보는,필터의 크기 또는 강도를 제어하는 정보인 필터 파라미터를 포함한다.
본 발명의 일 실시예에 따른 영상 복호화 장치에 있어서, 상기 필터 정보는, 상기 필터링이 수행되는 프레임의 특징에 따라 결정되는 적응적 파라미터를 포함한다.
본 발명의 일 실시예에 따른 영상 복호화 장치에 있어서, 상기 필터 정보는, 필터 타입에 관한 정보를 포함하고, 상기 필터 타입은 상기 필터링의 수행 여부를 나타내는 제 1 인덱스 및 상기 필터링에 적어도 하나의 가중치를 적용할 지 여부를 나타내는 제 2 인덱스를 포함한다.
본 발명의 일 실시예에 따른 영상 복호화 장치에 있어서, 상기 제 2 인덱스는, 상기 필터링이 수행되는 경우에만 설정된다.
본 발명의 일 실시예에 따른 영상 복호화 장치에 있어서, 상기 제 2 인덱스는, 상기 필터링에 거리 가중치, 휘도 가중치, 제 1 색차 가중치 및 제 2 색차 가중치 중 적어도 하나의 가중치를 적용할 지 여부를 나타낸다.
본 발명의 일 실시예에 따른 영상 부호화 방법은 색차 신호가 다운 샘플링된 다운 샘플링 영상을 부호화하는 단계; 상기 부호화된 부호화 영상을 복호화하는 단계; 상기 복호화된 복호화 영상의 색차 신호를 업 샘플링하는 단계; 상기 업 샘플링된 복호화 영상의 색차 신호 및 휘도 신호를 참조 신호로 이용하여 상기 복호화 영상의 색차 신호를 필터링 하는 단계; 및 상기 필터링과 연관된 필터 정보를 획득하는 단계를 포함한다.
본 발명의 일 실시예에 따른 영상 복호화 방법은 색차 신호가 다운 샘플링된 다운 샘플링 영상을 부호화 한 부호화 영상 및 필터 정보를 포함하는 부호화 데이터를 수신하는 단계; 상기 부호화 데이터로부터 분리된 부호화 영상을 복호화하는 단계; 상기 복호화된 복호화 영상의 색차 신호를 업 샘플링 하는 단계; 및 상기 업 샘플링 된 복호화 영상의 색차 신호 및 휘도 신호를 참조 신호로 이용하여, 상기 색차 신호를 상기 필터 정보에 따라 필터링 하는 단계를 포함한다.
본 발명에 따르면, 화질을 개선하는 것과 동시에, 부호화 효율을 향상시킬 수 있다.
도 1은 실시예 1과 관련된 부호화 장치의 구성을 설명하기 위한 블록도이다.
도 2는 실시예 1과 관련된 부호화 장치에서 이용되는 영상의 형식을 설명하기 위한 개념도이다.
도 3은 실시예 1과 관련된 색차 필터 정보 생성부의 구성을 나타내는 블록도이다.
도 4는 실시예 1과 관련된 색차 필터링부를 설명하기 위한 도면이다.
도 5는 실시예 1과 관련된 부호화 장치에서 이용하는 필터 파라미터의 일례를 나타내는 도면이다.
도 6은 실시예 1과 관련된 부호화 장치에서 이용하는 필터 타입의 일 예를 도시한 도면이다.
도 7은 실시예 1과 관련된 부호화 장치에서 이용하는 필터 타입의 다른 예를 도시한 도면이다.
도 8은 실시예 1과 관련된 부호화 장치에서, 블록 마다 필터를 적용하는 방법을 설명하기 위한 도면이다.
도 9는 실시예 1과 관련된 부호화 장치에서 이용되는 필터 파라미터 신택스(syntax)의 일예를 나타낸 도면이다.
도 10은 실시예 1과 관련된 부호화 장치에서 이용되는 필터 파라미터 신택스(syntax)의 일예를 나타낸 도면이다.
도 11은 실시예 1과 관련된 복호화 장치의 구성을 나타낸 블록도이다.
도 12는 실시예 1과 관련된 부호화 장치에서 블록을 분할하는 다른 예를 나타낸 도면이다.
도 13은 실시예 2와 관련된 부호화 장치의 구성을 나타낸 블록도이다.
도 14는 실시예 2와 관련된 부호화 장치의 구성을 나타낸 블록도이다.
(실시예 1)
이하, 도면을 참조해 실시예 1에 대해 설명한다.
본 실시예는, 휘도 영상과 색차 영상을 참조 영상으로 하여, 참조형 필터인 조인트 바이래터럴 필터를 이용하여, 색차 영상에 필터링을 수행함으로써 색차 영상의 노이즈를 감소시킴과 동시에 선명함을 향상시킬 수 있다. 또한, 본 실시예는 부호화 측에서 필터의 크기나 강도를 나타내는 필터 파라미터를 설계할 수 있다. 또한, 본 실시예는 부호화 측에서 블록마다 참조 영상을 변경할 수 있도록 필터 타입을 설계할 수 있다. 복호화 측에서 설계된 필터 파라미터와 필터 타입을 이용하여 필터링을 수행함으로써 색차 영상의 화질을 개선하고, 부호화 효율을 향상시킬 수 있다.
도 1은, 본 실시예에 따른 부호화 장치(100)의 구성을 나타낸 블록도이다. 부호화 장치(100)는, 입력 영상을 부호화 한 부호화 데이터를 송신하는 장치이며, 후술할 복호화 장치와 함께, 영상 처리 시스템을 구성한다. 예를 들면, 복호화 장치는 임의의 통신회선을 기초로 부호화 장치(100)와 통신이 가능하도록 접속될 수 있고, 통신회선을 통해 부호화 데이터가 전송될 수 있다.
도 1을 참조하면, 본 실시예에 따른 부호화 장치(100)는, 휘도 색차 영상 생성부(110), 색차 영상 다운 샘플링부(120), 부호화부(130), 국소 복호화부(140), 색차 영상 업 샘플링부(150), 색차 필터 정보 생성부(160) 및 색 차 필터 정보 멀티플렉싱부(170)를 포함할 수 있다.
또한, 도 1의 부호화 장치(100)의 기능들은, 하드웨어 및 소프트웨어 중 적어도 하나에 의해 수행될 수 있다. 예를 들어 부호화 장치(100)의 기능들은, 1개의 하드웨어 또는 소프트웨어를 통해 수행될 수 있고, 복수의 하드웨어 또는 소프트웨어에 의해 수행될 수도 있다. 부호화 장치의 기능들은 CPU(Central Processing Unit)나 메모리 등을 가지는 컴퓨터에 의해 실현될 수도 있다. 예를 들어, 기억장치에 후술하는 본 실시예와 관련된 부호화 방법을 실행하기 위한 부호화 프로그램을 기록하여, 기억장치에 기록된 부호화 프로그램을 CPU로 실행함으로써 부호화 장치의 각 기능이 실현될 수 있다. 이는 후술할 복호화 장치에 대해서도 동일하다.
휘도 색차 영상 생성부(110)는, 입력된 입력 영상을 변환하여, 소스 영상이 되는 휘도 색차 영상을 생성한다. 여기에서, 입력 영상은 4: 4: 4 형식의 RGB 영상일 수 있다. 휘도 색차 영상 생성부(110)는, 4: 4: 4 형식의 RGB 영상을 4: 4: 4 형식의 YCbCr 영상(휘도 색차 영상)으로 변환하여, 소스 영상으로 결정한다. 한편, 입력 영상은 RGB 영상으로 한정되지 않고 HSV 영상일 수 있으며, 휘도 색차 영상은 YCbCr 영상에 한정되지 않고 YUV 영상일 수도 있다.
색차 영상 다운 샘플링부(120)는, 휘도 색차 영상 생성부(110)가 생성한 4: 4: 4 형식의 YCbCr 영상(소스 영상)의 색차 신호(Cb, Cr) 각각을 다운 샘플링 할 수 있다.
도 2에는 4: 4: 4 형식의 영상, 4: 2: 2 형식의 영상, 4: 2: 0 형식의 영상에 대한 색차 서브 샘플링의 개념도가 도시되어 있다.
도 2(a)에 도시된 4: 4: 4 형식의 영상은, 휘도 신호(Y)와 색차 신호(Cb, Cr)의 샘플링 주파수가 동일한 영상이다. 4: 4: 4 형식의 영상에서는 휘도 신호(Y)와 색차 신호(Cb, Cr)의 정보량(해상도)이 동일하다.
도 2(b)에 도시된 4: 2: 2 형식의 영상은, 색차 신호(Cb, Cr)의 샘플링 주파수가 휘도 신호(Y)의 1/2이다. 4: 2: 2 형식의 영상에서, 색차 신호(Cb, Cr)의 정보량(해상도)은, 수평 방향으로 휘도 신호(Y)의 정보량(해상도)의 1/2이다.
도 2(c)에 도시된 4: 2: 0 형식의 영상은, 색차 신호(Cb, Cr)의 샘플링 주파수가, 휘도 신호(Y)의 1/2이다. 또한 4: 2: 0 형식의 영상에서는 수평 방향의 주사선 1개 간격으로 색차 신호(Cb, Cr)가 샘플링 된다. 4: 2: 0 형식의 영상에서는, 색차 신호(Cb, Cr)의 정보량(해상도)이, 수직 방향 및 수평 방향으로 각각 휘도 신호(Y) 정보량의 1/2이다.
인간의 시각 특성에 따라 휘도 신호보다 색차 신호의 중요도가 낮으므로, 4: 2: 2 형식이나 4: 2: 0 형식에서는, 색차 신호의 해상도를 감소시킴으로써 부호화 효율을 높이고 있다. 그러나, 4: 2: 2 형식이나 4: 2: 0 형식에서는, 색차 신호의 해상도가 낮기 때문에, 문자나 텔롭(telop) 등의 엣지에 색 무지개 얼룩이 발생하여, 화질이 열화 된다는 문제가 있다.
본 실시예에서는, 색차 영상 다운 샘플링부(120)가 도 2(a)와 같은 4: 4: 4 형식의 YCbCr 영상의 색차 신호(Cb, Cr)를 수직 방향 및 수평 방향으로 서브 샘플링 하여, 도 2(c)와 같은 4: 2: 0 형식의 YCbCr 영상(다운 샘플링 영상)을 생성함으로써, 영상의 화질을 개선할 수 있다.
부호화부(130)는, 색차 영상 다운 샘플링부(120)가 생성한 4: 2: 0 형식의 YCbCr 영상(다운 샘플링 영상)을 부호화하여, 영상 정보(부호화 영상)를 생성할 수 있다. 본 실시예에서는 정지 화면에 관한 부호화 방식을 일 예로 설명하지만 본 발명은 임의의 부호화 방식에 적용될 수 있다. 예를 들면, 부호화부(130)는 H. 264나 HEVC(High Efficiency Video Coding) 기술에 따라 동영상을 부호화할 수도 있다.
국소 복호화부(제1의 복호화부, 140)는, 부호화부 (130)에서 부호화된 부호화 영상(영상 정보)을 복호화하여, 국소 복호화 영상을 생성할 수 있다. 국소 복호화 영상은, 4: 2: 0 형식의 YCbCr 영상이다. 국소 복호화부(140)는, 부호화된 부호화 영상이 동영상인 경우에는 프레임 단위로 복호화를 수행할 수 있다.
색차 영상 업 샘플링부(제1의 업 샘플링부, 150)는 국소 복호화부(140)가 생성한 4: 2: 0 형식의 국소 복호화 영상의 색차 신호(Cb, Cr)를 업 샘플링 하여, 4: 4: 4 형식의 국소 복호화 영상을 생성할 수 있다. 업 샘플링은 기존의 바이-리니어(bi-linear) 또는 바이-큐빅(bi-cubic)등의 보간 필터를 이용하여 수행될 수 있다.
색차 필터 정보 생성부(160)는, 색차 영상 업 샘플링부(150)에서 업 샘플링하여 생성한 국소 복호화 영상과 휘도 색차 영상 생성부(110)가 생성한 4: 4: 4 형식의 소스 영상 간의 제곱 오차가 최소가 되도록 색차 필터 정보를 생성할 수 있다. 색차 필터 정보는, 복호화 장치에 전송될 수 있다. 색차 필터 정보는 복호화 장치에 있어서의 필터 처리를 제어하기 위한 제어 정보이다. 색차 필터 정보의 처리 과정은 후술하도록 한다.
색차 필터 정보 멀티플렉싱부(170)는, 부호화부(130)가 생성한 영상 정보(부호화 영상)와 색차 필터 정보 생성부(160)가 생성한 색차 필터 정보를 멀티플렉싱하여, 부호화 데이터를 생성할 수 있다. 색차 필터 정보 멀티플렉싱부(170)는 생성된 부호화 데이터를 복호화 장치에 송신할 수 있다. 여기에서, 부호화부(130)가 생성한 영상 정보와 색차 필터 정보를 멀티플렉싱 하는 방법에는 임의의 멀티플렉싱 방법이 적용될 수 있다.
도 1에서 전술한 색차 필터 정보 생성부(160)에 대해 도 3을 참조하여, 상세하게 설명하도록 한다. 도 3은, 본 실시예와 관련된 색차 필터 정보 생성부(160)의 구성을 나타낸 블록도이다. 도 3에 도시된 바와 같이, 본 실시예와 관련된 색차 필터 정보 생성부(160)는, 색차 필터링부(161), 색차 필터 정보 설정부(162) 및 색차 필터 정보 결정부(163)를 포함한다.
색차 필터링부(제1의 필터링부, 161)는, 색차 영상 업 샘플링부(150)로부터 업 샘플링 된 국소 복호화 영상을 획득하여, 색차 필터 정보 설정부(162)에서 설정된 색차 필터 정보에 따라 국소 복호화 영상에 참조형 필터링을 수행할 수 있다.
색차 필터링부(161)는, 휘도 신호(Y)를 참조 신호로 하여, 참조형 필터를 이용함으로써 색차 신호(Cr, Cb)의 노이즈를 제거하고 해상도를 높일 수 있다.
본 실시예에서는, 참조형 필터의 일례로서 조인트 바이래터럴 필터가 이용될 수 있다. 또한, 본 실시예는 휘도 신호(Y)뿐만이 아니라 색차 신호(Cb, Cr)를 참조 신호로 이용하여 필터의 가중치에 색차 신호(Cr, Cb)에 대응되는 가중치를 추가할 수 있다. 본 실시예는 필터의 가중치에 색차 신호(Cr, Cb)에 대응되는 가중치를 추가하여, 휘도 영상의 화소간 화소값의 차이가 없고, 색차 영상의 화소간 화소값의 차이가 있는 영역(예를 들면 빨강의 배경으로 파랑의 선이 들어가 있는 색 엣지 영역 등)에서 색 무지개 얼룩이 생기는 문제를 해결할 수 있다.
도 4는, 색차 필터링부(161)에서 참조형 필터를 이용하여 수행하는 필터링의 일 실시예를 나타내고 있다. 도 4를 참조하면, 단계 S101에서 색차 필터링부(161)는 국소 복호화 영상에 포함되는 휘도 신호(Y)와 색차 신호(Cb, Cr)를 분리할 수 있다. 다른 예에 따라 색차 필터링부(161)는 분리되어 있는 휘도 신호(Y)와 색차 신호(Cb, Cr)를 입력하여, 필터링을 수행할 수도 있다.
단계 S102에서, 색차 필터링부(161)는 단계 S101에서 분리된 휘도 신호(Y) 및 색차 신호(Cb, Cr)를 참조 신호로 이용하여, 색차 필터 정보를 기초로 타겟 신호인 색차 신호(Cb)에 필터링을 수행할 수 있다(S102). 색차 필터링부(161)는 휘도 신호(Y) 및 색차 신호(Cb, Cr)를 참조 신호로 하여, 참조형 필터인 조인트 바이래터럴 필터를 이용하여 색차 신호(Cb)에 필터링을 수행할 수 있다. 색차 필터링부(161)는 휘도 영상 및 색차 영상의 세부 정보를 이용하여, 색차 신호(Cb)의 세부 해상도를 개선시킴과 동시에 노이즈를 제거할 수 있다.
단계 S103에서, 색차 필터링부(161)는 단계 S101에서 분리된 휘도 신호(Y) 및 색차 신호(Cb, Cr)를 참조 신호로 이용하여, 색차 필터 정보를 기초로 타겟 신호인 색차 신호(Cr)에 필터링을 수행할 수 있다(S103). 색차 필터링부(161)는 휘도 신호(Y) 및 색차 신호(Cb, Cr)를 참조 신호로 하여, 참조형 필터인 조인트 바이래터럴 필터를 이용하여 색차 신호(Cr)에 필터링을 수행할 수 있다. 색차 필터링부(161)는 휘도 영상 및 색차 영상의 세부 정보를 이용하여, 색차 신호(Cr)의 세부 해상도를 개선시킴과 동시에 노이즈를 제거할 수 있다.
단계 S104에서, 색차 필터링부(161)는 단계 S101에서 분리된 휘도 신호(Y), 단계 S102에서 필터링된 색차 신호(Cb) 및 단계 S103에서 필터링된 색차 신호(Cr)를 합성하여, 국소 복호화 영상을 생성할 수 있다. 색차 필터링부(161)는 생성된 국소 복호화 영상을 출력할 수 있다.
단계 S102, S103에서 색차 필터링부(161)가 이용하는 참조형 필터는 이하의 수학식 1에 따라 나타낼 수 있다.
[수학식 1]
Figure 112014125263570-pat00001
여기에서, 필터링 대상인 색차 영상을 C(예를 들어, Cb 또는 Cr), 색차 영상 C에 필터링이 수행된 영상을 F[C]로 설명하도록 한다. P는 필터링 대상 화소의 위치, q는 필터링 대상 화소에 근접한 화소의 위치, Y, Cb, Cr은 각각 휘도 영상, 제 1 색차 영상(Cb), 제 2 색차 영상(Cr)의 화소값을 나타낸다. G(x)는 2 차원의 가우시안 커넬(Gaussian Kernel)이며 이하의 수학식 2에 따라 나타낼 수 있다.
[수학식 2]
Figure 112014125263570-pat00002
또한, 수학식 1의
Figure 112014125263570-pat00003
는 각각 거리, 휘도, 제 1 색차(Cb), 제 2 색차(Cr)의 가중치에 대한 가우스 분포의 표준 편차를 나타내고 있다. Wp는 정규화 계수이며, 가중치의 합이 1이 되도록 이하의 수학식 3에 나타나 있다.
[수학식 3]
Figure 112014125263570-pat00004
수학식 3에서,
Figure 112014125263570-pat00005
는 각각 거리 가중치, 휘도 가중치, 제 1 색차 가중치, 제 2 색차 가중치를 나타내는 필터의 가중치 계수이다.
또한, 본 실시예에서는, 수학식 1 에 있어서의 Ω를 결정하는 필터 커넬의 반경 r과 전술한
Figure 112014125263570-pat00006
의 정보를 필터 파라미터로 설명하도록 한다. 필터 파라미터는, 필터 처리의 기본 파라미터로서 필터의 크기나 강도를 제어하는 필터 기본 정보이다. 또한, 본 실시예에서는 필터의 적용 여부 및 거리 가중치, 휘도 가중치, 제 1 색차 가중치, 제 2 색차 가중치 각각의 이용 여부에 관한 정보를 필터 타입으로 설명하도록 한다. 필터 타입은, 필터 파라미터에 따라 수행되는 필터링을 보다 더 상세하게 제어하는 필터 상세 정보이다. 필터 파라미터 및 필터 타입을 색차 필터 정보로 설명하도록 한다.
또한, 본 실시예에서는, 프레임을 기 설정된 크기의 블록으로 분할하고, 블록 단위로 필터 타입을 제어할 수 있다. 여기에서, 블록의 크기를 결정하는 값 또한 필터 파라미터에 포함될 수 있다.
도 5는, 본 실시예와 관련된 필터 파라미터의 일 예를 나타내고 있다. 도 5를 참조하면, 필터 파라미터는, 전술한 참조형 필터의 커넬의 반경, 거리 표준 편차, 휘도 표준 편차, 제 1 색차 표준 편차, 제 2 색차 표준 편차 및 블록의 크기에 관한 정보를 포함한다.
도 6 및 도 7은, 영상을 블록 단위로 제어하기 위해 정의된 필터 타입의 예를 나타내고 있다. 여기에서, 필터 타입은, 필터 타입 1 및 필터 타입 2를 포함한다. 이하에서는 필터 타입 1을 제 1 인덱스 및 필터 타입 2를 제 2 인덱스로 설명하도록 한다. 도 6을 참조하면, 제 1 인덱스는, 필터링의 수행 여부를 나타내는 정보이며, 0 또는 1의 값으로 나타낼 수 있다. 도 7을 참조하면, 제 2 인덱스는, 거리 가중치, 휘도 가중치, 제 1 색차 가중치, 제 2 색차 가중치의 적용 여부를 나타내는 정보이며, 0 내지 15 중 어느 하나의 값으로 나타낼 수 있다.
도 3의 색차 필터 정보 설정부(162)는, 색차 필터 정보로서 필터 파라미터 및 필터 타입을 색차 신호(Cb, Cr) 별로 설정할 수 있다. 색차 필터링부(161)는 설정된 색차 필터 정보에 따라 필터링을 수행할 수 있다. 색차 필터 정보 설정부(162)는, 도 5를 참조하여 설명한 프레임 단위로 설정된 필터 파라미터의 정보와 도 6 및 도 7를 참조하여 설명한 블록 단위로 설정된 필터 타입의 정보를 포함한 복수의 색차 필터 정보를 생성한다. 색차 필터 정보 설정부(162)는 생성한 복수의 색차 필터 정보를 색차 필터링부 (161)에 적용한다. 또한, 색차 필터 정보 결정부는 생성한 복수의 색차 필터 정보를 색차 필터링부(161)에 적용함과 동시에 색차 필터 정보 결정부(163)에 전송한다.
도 8에는 블록 단위로 필터 타입을 변경하는 방법을 설명하기 위한 개념도가 도시되어 있다. 도 8을 참조하면, 색차 필터 정보 설정부(162)는, 프레임 단위로 필터 파라미터를 선택하고, 프레임을 분할하여 생성되는 블록 단위로 필터 타입을 선택한다. 본 실시예는 블록 단위로 필터 타입을 결정함에 따라 국소적으로 필터 타입을 변경함으로써 부호화 효율을 향상시킬 수 있다.
또한, 프레임을 블록 단위로 분할하는 방법은, 도 8에 도시된 바에 한정되지 않는다. 다른 예에 따라, 프레임은 도 12에 도시된 것과 같이 계층적인 4개의 블록으로 분할될 수도 있다. 프레임이 계층적인 4개의 블록으로 분할되는 경우, 상위의 부모(parent) 블록이 하위의 4개의 아이(child) 블록(서브 블록)으로 분할될 수 있다. 여기에서, 부모 블록 마다 아이 블록으로 분할할 것인지 여부가 선택될 수 있다. 또한, 분할된 아이 블록 마다 필터 타입이 결정될 수 있다.
필터 타입의 경우, 도 6 및 도 7 과 같이 4 비트를 이용하여 제 2 인덱스를 나타내고, 1 비트를 이용하여 제 2 인덱스가 존재하는지 여부를 나타내는 제 1 인덱스를 나타낼 수 있다. 필터링을 수행하는 경우 필터 타입의 정보량은 5비트로 결정되고, 필터링을 수행하지 않는 경우, 필터 타입의 정보량은 1비트로 결정될 수 있어 부호화 효율을 향상할 수 있다.
도 3의 색차 필터 정보 결정부(163)는, 색차 필터링부(161)에서 필터링 된 4: 4: 4 형식의 국소 복호화 영상과 휘도 색차 영상 생성부(110)의 4: 4: 4 형식의 소스 영상을 획득할 수 있다. 색차 필터 정보 결정부(163)는 획득한 국소 복호화 영상 및 소스 영상 간의 제곱 오차를 계산하여 색차 필터 정보의 최적값을 결정할 수 있다. 색차 필터 정보 결정부(163)는, 색차 필터 정보 설정부(162)에서 설정된 복수의 색차 필터 정보에 따라 필터링 된 영상의 제곱 오차를 계산할 수 있다. 색차 필터 정보 결정부(163)는 제곱 오차가 최소화되는 색차 필터 정보를 최적의 색차 필터 정보로 결정할 수 있다. 색차 필터 정보 결정부(163)는, 결정된 최적의 색차 필터 정보를 색차 필터 정보 멀티플렉싱부(170)에 출력할 수 있다.
예를 들면, 색차 필터 정보 결정부(163)에서, RDO(Rate-Distortion Optimization) 방식을 이용하여 색차 필터 정보의 최적값을 결정하는 경우, 수학식 4에 따라 결정되는 C가 이용될 수 있다.
[수학식 4]
Figure 112014125263570-pat00007
수학식 4에 있어서, D(Distortion)는 소스 영상과 국소 복호화 영상간의 제곱 오차 또는 절대값 오차와 같은 화질 개선 정도를 나타낸다. 또한, 수학식 4에서, R(Rate)은 색차 필터 정보(필터 파라미터, 필터 타입)를 포함한 부호화 데이터의 부호량(데이터량)이며,
Figure 112014125263570-pat00008
는 소정의 계수이다. 색차 필터 정보 결정부(163)는, 색차 필터 정보를 변경하여 적용할 수 있다. 색차 필터 정보 결정부(163)는 적용 결과에 따라, 오차 및 부호량이 적고, 특히 코스트 C가 최소값을 갖는 필터 파라미터 및 필터 타입을 최적값으로 결정할 수 있다.
도 9 및 도 10은, 색차 필터 정보 결정부(163)에서 결정되고, 색차 필터 정보 멀티플렉싱부(170)에서 멀티플렉싱되는 색차 필터 정보의 신택스(syntax)의 예를 나타낸다. 도 9의 필터 파라미터 신택스는, 도 5의 필터 파라미터의 각 정보와 대응될 수 있다. 도 9의 필터 파라미터 신택스에 따라, 색차 신호(Cb, Cr) 별로 커넬의 반경, 거리 표준편차, 휘도 표준 편차, 제 1 색차 표준 편차 및 제 2 색차 표준 편차에 관한 정보가 결정될 수 있다. 또한, 도 9의 필터 파라미터 신택스에 따라 블록의 가로 방향과 세로 방향의 크기가 결정될 수 있다.
도 10의 필터 타입 신택스는, 도 6의 제 1 인덱스 및 도 7의 제 2 인덱스에 대응될 수 있다. 필터 타입 신택스에 따라 블록 단위로 제 1 인덱스 및 제 2 인덱스가 반복적으로 설정될 수 있다. 필터 타입 신택스에 따라 색차 신호(Cb)의 제 1 인덱스가 설정되고, 제 1 인덱스의 값이 1인 경우에 색차 신호(Cb)의 제 2 인덱스가 설정될 수 있다.
또한, 도 10의 필터 타입 신택스의 분할 정보(아이 블록의 분할 여부를 나타내는 플래그)를 이용하여, 도 12와 같이 부모 블록을 4개의 아이 블록으로 분할할 수 있다. 한편, 다른 예에 따라 H. 264/AVC나 H. 265/HEVC 등의 방식에서는 기존의 블록 베이스 부호화 방식에 따라 예측 블록, 변환 블록과 같은 단위로 미리 결정된 신택스 내에 필터 타입의 정보를 추가함으로써, 분할 정보를 별도로 전송하지 않고, 블록을 분할할 수 있다.
도 11은, 본 실시예에 따른 복호화 장치(200)의 구성을 나타낸 블록도이다. 도 11에 도시된 바와 같이, 본 실시예에 따른 복호화 장치(200)는, 수신부(미도시), 복호화부(220), 색차 영상 업 샘플링부(230), 색차 필터링부(240)를 포함하고 있다. 한편, 수신부(미도시)에는 본 실시예에 따른 색차 필터 정보 분리부(210)가 포함될 수 있다.
색차 필터 정보 분리부(210)는, 부호화 장치(100)가 송신한 부호화 데이터를 수신하고, 수신한 부호화 데이터를 영상 정보와 색차 필터 정보로 분리한다. 영상 정보는 부호화 장치(100)의 부호화부(130)에서 부호화된 부호화 영상이며, 색차 필터 정보는, 부호화 장치(100)의 색차 필터 정보 생성부 (160)에서 생성된 정보이다. 전술한 바와 같이, 색차 필터 정보는, 도 9 및 도 10의 신택스에 따라 설정될 수 있다.
복호화부(제 2의 복호화부, 220)는, 색차 필터 정보 분리부(210)가 분리한 영상 정보를 복호화하여, 복호화 영상을 생성한다. 복호화 영상은 4: 2: 0 형식의 YCbCr 영상이다. 복호화부(220)는, 부호화 장치(100)의 국소 복호화부(140)에서 수행된 방식과 동일한 방식으로 영상 정보를 복호화 한다.
색차 영상 업 샘플링부(제 2의 업 샘플링부, 230)는, 복호화부(220)에서 생성된 4: 2: 0 형식의 복호화 영상의 색차 영상을 업 샘플링 하여, 4: 4: 4 형식의 복호화 영상을 생성한다. 여기에서 업 샘플링 방식은 부호화 장치(100)의 색차 영상 업 샘플링부(150)와 수행한 업 샘플링 방식과 동일하다. 색차 영상 업 샘플링부(230)는 색차 영상 업 샘플링부(150)와 동일한 방식의 업 샘플링을 수행하여, 부호화 장치(100)의 색차 필터링부(161)에서 필터링이 수행되기 전의 영상(국소 복호화 영상)과 동일한 영상을 생성할 수 있다.
색차 필터링부(제 2의 필터링부, 240)는, 색차 영상 업 샘플링부(230)에서 업 샘플링된 복호화 영상과 색차 필터 정보 분리부(210)에서 분리된 색차 필터 정보를 획득할 수 있다. 색차 필터링부(240)는, 부호화 장치(100)의 색차 필터링부 (161)와 동일한 방식으로 도 4및 수학식 1 내지 수학식 3에 따른 참조형 필터링을 수행하여 생성된 출력 영상을 출력한다. 구체적으로, 색차 필터링부(240)는, 복호화 영상의 색차 신호 및 휘도 신호를 참조 신호로 하여, 대상 신호인 색차 신호에 참조형 필터링을 수행한다. 색차 필터링부(240)는, 획득한 색차 필터 정보의 신택스에 따라 필터 파라미터를 기초로 필터 정보와 블록의 크기를 결정하고, 필터 타입을 기초로 블록마다 필터의 적용 여부 또는 가중치를 결정한다. 부호화 장치(100)의 색차 필터링부(161)에서 최적으로 결정된 색차 필터 정보에 따라 필터링을 수행하여, 색차 필터링부(240)에서는, 화질이 향상된 출력 영상이 생성될 수 있다.
이상과 같이 본 실시예에서는, 휘도 영상과 색차 영상에 강한 상관성이 존재하는 것을 이용하여, 부호화로 인해 열화된 색차 영상에, 휘도 영상과 색차 영상을 참조 신호로 한 참조형 필터를 포스트 필터로서 적용한다. 또한, 부호화 측에서 필터 파라미터 및 필터 타입을 영상 또는 블록 단위로 변경하기 위한 색차 필터 정보를 생성하여 송신함에 따라, 복호화 측에서 수신한 색차 필터 정보를 기초로 필터링을 수행할 수 있다. 본 실시예에서는 휘도 영상과 색차 영상을 참조 신호로 한 참조형 필터를 포스트 필터로서 적용함에 따라, 색차 영상의 노이즈를 감소시킴과 동시에 선명도를 향상시킬 수 있다.
본 실시예에 따르면, 종래의 노이즈 제거 방식이나 선명도를 향상시키기 위한 방식에 비해 복잡도가 낮은 방식으로 색차 영상의 화질을 개선할 수 있다. 또한 부호화 측에서 필터링을 제어하기 위한 부가 정보를 전송함으로써, 부호화 효율을 개선할 수 있다.
본 실시예는, 색차 영상에 조인트 바이래터럴 필터를 이용한 참조형 필터링을 수행할 수 있다. 또한, 참조형 필터링을 수행함에 있어, 필터의 가중치 계수나 커넬 크기 등의 필터 파라미터 및 참조 영상을 제어하기 위한 필터 타입을 부호화 측에서 생성하여, 복호화 측에 전송함에 따라, 프레임 또는 블록 단위로 최적화된 필터링을 수행할 수 있다. 본 실시예는, 프레임 또는 블록 단위로 최적화된 필터링을 수행할 수 있어 부호화 처리로 열화된 색차 영상의 화질을 효과적으로 개선할 수 있다. 전술한 실시예들은, 특허 문헌 1~6이나 비특허 문헌 1~3의 어느 것에도 개시된 바가 없다.
(실시예 2)
이하에서는, 실시예 2에 대해 설명한다. 본 실시예는, 조인트 바이래터럴 업 샘플링을 수행하여 영상을 부호화 및 복호화하는 방법이다. 또한 일반적인 조인트 바이래터럴 업 샘플링에 대해서는, 「J.Kopf, M.F.Cohen, D.Lischinski, M.Uyttendaele, "Joint Bilateral Upsampling", SIGGRAPH2007, No.96, 2007」에 개시되고 있다.
도 13은 본 실시예와 관련된 부호화 장치(100)의 구성을 나타내고, 도 14는 본 실시예와 관련된 복호화 장치(200)의 구성을 나타내고 있다. 본 실시예에서는, 조인트 바이래터럴 업 샘플링을 수행함에 따라, 실시예 1에서 전술한 색차 영상 업 샘플링부(150, 230)를 이용하지 않을 수 있다. 실시예 2에서 색차 영상 업 샘플링부(150, 230)를 제외한 구성들은, 실시예 1과 동일할 수 있다.
도 14를 참조하면, 부호화 장치(100)의 국소 복호화부(140)는 생성한 국소 복호화 영상을 색차 필터 정보 생성부(160)에 출력할 수 있다. 색차 필터 정보 생성부(160)는, 업 샘플링이 수행되지 않은 국소 복호화 영상과 소스 영상을 기초로, 업 샘플링 및 필터링을 수행하여 색차 필터 정보를 생성할 수 있다. 복호화 장치(200)의 복호화부(220)는, 생성된 복호화 영상을 색차 필터링부(240)에 출력할 수 있다. 색차 필터링부 (240)는, 업 샘플링이 수행되지 않은 복호화 영상과 색차 필터 정보를 기초로 업 샘플링 및 필터링을 수행하여, 출력 영상을 생성할 수 있다.
본 실시예에서는, 색차 필터 정보 생성부(160)의 색차 필터링부 (161) 및 색차 필터링부(240)는, 도 4의 단계 S102 및 단계 S103에서와 같이 참조형 필터로서 조인트 바이래터럴 필터를 이용하여 필터링을 수행하는 대신에, 조인트 바이래터럴 업 샘플링을 수행할 수 있다. 구체적으로, 본 실시예에서는 수학식 1 대신에, 하기의 수학식 5을 이용하여 업 샘플링 및 필터링을 수행할 수 있다. 수학식 5는, 도 2 (c)에서와 같이 다운 샘플링된 화소를 나타내고 있다.
[수학식 5]
Figure 112014125263570-pat00009
즉, 색차 필터링부(161) 및 색차 필터링부(240)는, 다운 샘플링된 색차 신호(Cb, Cr)를 업 샘플링 하는 것과 동시에, 휘도 신호(Y) 및 색차 신호(Cb, Cr)를 참조 신호로 하여, 조인트 바이래터럴 필터와 같은 참조형 필터를 이용하여 색차 신호(Cb)에 필터링을 수행할 수 있다. 또한, 색차 필터링부(161) 및 색차 필터링부(240)는, 다운 샘플링된 색차 신호(Cb, Cr)를 업 샘플링 하는 것과 동시에, 휘도 신호(Y) 및 색차 신호(Cb, Cr)를 참조 신호로 하여, 조인트 바이래터럴 필터와 같은 참조형 필터를 이용하여 색차 신호(Cr)에 필터링을 수행할 수 있다.
전술한 바와 같이, 실시예 1의 조인트 바이래터럴 필터 대신에 조인트 바이래터럴 업 샘플링을 이용하여 일 실시예에 따른 영상의 부호화 및 복호화를 수행하는 것이 가능하다. 조인트 바이래터럴 업 샘플링을 이용함에 따라, 업 샘플링과 필터링을 동시에 수행함으로써, 업 샘플링부를 이용하지 않을 수 있다. 실시예 2에서는 업 샘플링과 필터링을 동시에 수행하여, 영상의 부호화 및 복호화의 처리 속도를 높일 수 있다.
(실시예 3)
이하에서, 실시예 3에 대해 설명한다. 본 실시예는, 실시예 1 또는 2에서 설명한 방식에 어댑티브 바이래터럴(adaptive bilateral) 필터의 적응적 파라미터를 추가하는 방법에 대한 일 예이다. 또한, 일반적인 어댑티브 바이래터럴(adaptive bilateral) 필터는, 「Buyue Zhang, Jan P. Allebach, "Adaptive Bilateral Filter for Sharpness Enhancement and Noise Removal", IEEE TRANSACTIONS ON IMAGE PROCESSING, VOL. 17, NO. 5, MAY 2008」에 개시되어 있다.
본 실시예와 관련된 부호화 장치(100) 및 복호화 장치(200)의 구성은, 실시예 1(또는 2)과 동일하다.
본 실시예에서, 색차 필터 정보 생성부(160)의 색차 필터링부(161) 및 색차 필터링부(240)는, 도 4의 단계 S102 및 단계 S103에서 어댑티브 바이래터럴 필터의 적응적 파라미터를 이용한 조인트 바이래터럴 필터링을 수행할 수 있다. 구체적으로, 어댑티브 바이래터럴 필터의 적응적 파라미터를 이용한 조인트 바이래터럴 필터링은 수학식 1 및 수학식 3에 적응적 파라미터ζ를 추가하여, 나타낼 수 있다. 여기에서, 적응적 파라미터ζ는 수학식 1 및 수학식 2에서 필터링이 수행되는 색차 영상의 가중치 항에 추가될 수 있다. 예를 들면, Cb에 필터링이 수행되는 경우에는 Cb의 가중치 항에 적응적 파라미터ζ가 추가될 수 있다. 또한, Cr에 필터링이 수행되는 경우에는 Cr의 가중치 항에 적응적 파라미터ζ가 추가될 수 있다. 즉, 수학식 1 및 수학식 3은 수학식 8의 δ1및 δ2를 이용하여 수학식 6 및 수학식 7과 같이 나타낼 수 있다.
[수학식 6]
Figure 112014125263570-pat00010
[수학식 7]
Figure 112014125263570-pat00011
[수학식 8]
Figure 112014125263570-pat00012
본 실시예에서는 적응적 파라미터ζ를 변경하여, 필터링의 효과를 결정할 수 있다. 본 실시예에서는, 적응적 파라미터ζ가 색차 필터 정보에 포함될 수 있다. 즉, 부호화 장치(100)의 색차 필터 정보 결정부(163)는 적응적 파라미터ζ를 포함한 색차 필터 정보의 최적값을 결정할 수 있다. 또한, 복호화 장치(200)에서는 적응적 파라미터ζ를 포함한 색차 필터 정보를 이용하여 필터링을 수행할 수 있다. 본 실시예에서는 색차 필터 정보의 필터 파라미터에 적응적 파라미터ζ를 추가하여, 프레임 단위로 필터링의 효과를 조정할 수 있다. 또한 색차 필터 정보의 필터 타입에 적응적 파라미터ζ를 추가하여 블록 단위로 필터링의 효과를 조정할 수도 있다.
적응적 파라미터ζ는, 필터링이 수행되는 프레임의 특징에 따라 결정될 수 있다. 예를 들면, 엣지를 포함한 프레임(혹은 엣지 영역)의 경우, 적응적 파라미터ζ를 크게 하여, 엣지를 선명히 할 수 있다. 또, 평탄한 영상(혹은 평탄 영역)의 경우, 적응적 파라미터ζ를 작게 하여, 자연스러운 영상을 생성할 수 있다. 영상의 특징은 부호화 장치(100)에서, 색차 필터링 전에 검출될 수 있다.
실시예 3에서 전술한 바와 같이, 실시예 1의 조인트 바이래터럴 필터링 또는 실시예 2의 조인트 바이래터럴 업 샘플링에, 어댑티브 바이래터럴 필터의 적응적 파라미터를 추가할 수 있다. 실시예 3에서는 적응적 파라미터를 추가하여, 필터링을 수행함으로써 화질을 개선할 수 있다.
덧붙여 본 발명은 상기 실시예에 한정된 것이 아니고, 취지를 일탈하지 않는 범위에서 적절하게 변경하는 것이 가능하다.
100 부호화 장치
110 휘도 색차 영상 생성부
120 색차 영상 다운 샘플링부
130 부호화부
140 국소 복호화부
150 색차 영상 업 샘플링부
160 색차 필터 정보 생성부
161 색차 필터링부
162 색차 필터 정보 설정부
163 색차 필터 정보 결정부
170 색차 필터 정보 멀티플렉싱부
200 복호화 장치
210 색차 필터 정보 분리부
220 복호화부
230 색차 영상 업 샘플링부
240 색차 필터링부

Claims (20)

  1. 색차 신호가 다운 샘플링 된 다운 샘플링 영상을 부호화하는 부호화부;
    상기 부호화된 부호화 영상을 복호화하는 복호화부; 및
    상기 복호화된 복호화 영상의 색차 신호를 업 샘플링하고,
    상기 업 샘플링 된 복호화 영상의 색차 신호와 휘도 신호를 참조 신호로 이용하여 상기 복호화 영상의 색차 신호를 필터링하고,
    상기 필터링의 결과에 기초하여, 상기 복호화 영상의 블록 또는 서브 블록 별 필터링의 적용 여부 및 필터링이 적용되는 경우의 필터의 가중치를 식별하며,
    상기 복호화 영상에 포함되는 적어도 하나의 블록의 크기, 상기 적어도 하나의 블록의 서브 블록으로의 분할 여부, 상기 블록 또는 상기 서브 블록 별 필터링의 적용 여부 및 상기 식별된 필터의 가중치에 관한 정보를 포함하는 필터 정보를 획득하는 필터 정보 생성부를 포함하는, 영상 부호화 장치.
  2. 제 1항에 있어서,
    상기 획득된 필터 정보와 상기 부호화 영상을 멀티플렉싱(multiplexing)하여 부호화 데이터를 생성하는 멀티플렉싱부를 더 포함하는, 영상 부호화 장치.
  3. 제 1 항에 있어서,
    상기 복호화 영상의 색차 신호를 업 샘플링하는 업 샘플링부; 및
    상기 업 샘플링 된 복호화 영상을 필터링하는 필터링부를 더 포함하는, 영상 부호화 장치.
  4. 제 1항에 있어서, 상기 필터 정보는,
    상기 필터의 크기 또는 강도를 제어하는 정보인 필터 파라미터를 포함하는 것인, 영상 부호화 장치
  5. 제 1항에 있어서, 상기 필터 정보는,
    상기 필터링이 적용되는 프레임의 특징에 따라 결정되는 적응적 파라미터를 포함하는 것인 영상 부호화 장치.
  6. 제 1항에 있어서, 상기 필터 정보는,
    상기 필터링의 적용 여부를 나타내는 제 1 인덱스 및 상기 필터링에 상기 식별된 필터의 가중치를 적용할 지 여부를 나타내는 제 2 인덱스를 포함하는 것인, 영상 부호화 장치.
  7. 제 6항에 있어서, 상기 제 2 인덱스는,
    상기 필터링이 적용되는 경우에만 설정되는 것인, 영상 부호화 장치.
  8. 제 6항에 있어서, 상기 제 2 인덱스는,
    상기 필터링에 거리 가중치, 휘도 가중치, 제 1 색차 가중치 및 제 2 색차 가중치 중 적어도 하나의 가중치를 적용할 지 여부를 나타내는, 영상 부호화 장치.
  9. 제 1항에 있어서, 상기 필터 정보 생성부는,
    상기 다운 샘플링 영상이 다운 샘플링 되기 이전의 영상과 상기 필터링된 복호화 영상간의 오차가 최소화되도록 상기 필터의 가중치를 식별하는 영상 부호화 장치.
  10. 색차 신호가 다운 샘플링된 다운 샘플링 영상을 부호화한 부호화 영상과 필터 정보를 포함하는 부호화 데이터를 수신하는 수신부;
    상기 부호화 데이터로부터 상기 부호화 영상과 상기 필터 정보를 분리하는 필터 정보 분리부;
    상기 분리된 부호화 영상을 복호화 하는 복호화부; 및
    상기 복호화된 복호화 영상의 색차 신호를 업 샘플링하고,
    상기 필터 정보로부터 상기 복호화 영상에 포함된 적어도 하나의 블록의 크기, 상기 적어도 하나의 블록의 서브 블록으로의 분할 여부, 블록 또는 상기 서브 블록 별 필터링의 적용 여부 및 상기 블록 또는 상기 서브 블록 별로 식별된 필터의 가중치에 관한 정보를 획득하며,
    상기 업 샘플링 된 복호화 영상의 색차 신호와 휘도 신호를 참조 신호로 이용하여, 상기 획득된 정보를 기초로, 상기 블록 또는 상기 서브 블록 별로 상기 복호화 영상의 색차 신호를 필터링 하는 필터링부를 포함하는, 영상 복호화 장치.
  11. 제 10항에 있어서, 상기 수신부는,
    상기 부호화 영상과 상기 필터 정보가 멀티플렉싱 된 부호화 데이터로부터 상기 부호화 영상과 상기 필터 정보를 분리하는 필터 정보 분리부를 포함하는, 영상 복호화 장치.
  12. 제 10항에 있어서, 상기 필터 정보는,
    상기 필터의 크기 또는 강도를 제어하는 정보인 필터 파라미터를 포함하는 것인, 영상 복호화 장치
  13. 제 10항에 있어서, 상기 필터 정보는,
    상기 필터링이 적용되는 프레임의 특징에 따라 결정되는 적응적 파라미터를 포함하는 것인, 영상 복호화 장치.
  14. 제 10항에 있어서, 상기 필터 정보는,
    상기 필터링의 적용 여부를 나타내는 제 1 인덱스 및 상기 필터링에 상기 식별된 필터의 가중치를 적용할 지 여부를 나타내는 제 2 인덱스를 포함하는 것인, 영상 복호화 장치.
  15. 제 14항에 있어서, 상기 제 2 인덱스는,
    상기 필터링이 적용되는 경우에만 설정되는 것인, 영상 복호화 장치.
  16. 제 14항에 있어서, 상기 제 2 인덱스는,
    상기 필터링에 거리 가중치, 휘도 가중치, 제 1 색차 가중치 및 제 2 색차 가중치 중 적어도 하나의 가중치를 적용할 지 여부를 나타내는, 영상 복호화 장치.
  17. 색차 신호가 다운 샘플링된 다운 샘플링 영상을 부호화하는 단계;
    상기 부호화된 부호화 영상을 복호화하는 단계;
    상기 복호화된 복호화 영상의 색차 신호를 업 샘플링하는 단계;
    상기 업 샘플링된 복호화 영상의 색차 신호 및 휘도 신호를 참조 신호로 이용하여 상기 복호화 영상의 색차 신호를 필터링 하는 단계;
    상기 필터링의 결과에 기초하여, 상기 복호화 영상의 블록 또는 서브 블록 별 필터링의 적용 여부 및 필터링이 적용되는 경우의 필터의 가중치를 식별하는 단계; 및
    상기 복호화 영상에 포함되는 적어도 하나의 블록의 크기, 상기 적어도 하나의 블록의 서브 블록으로의 분할 여부, 상기 블록 또는 상기 서브 블록 별 필터링의 적용 여부 및 상기 식별된 필터의 가중치에 관한 정보를 포함하는 필터 정보를 획득하는 단계를 포함하는, 영상 부호화 방법.
  18. 색차 신호가 다운 샘플링된 다운 샘플링 영상을 부호화 한 부호화 영상 및 필터 정보를 포함하는 부호화 데이터를 수신하는 단계;
    상기 부호화 데이터로부터 분리된 부호화 영상을 복호화하는 단계;
    상기 복호화된 복호화 영상의 색차 신호를 업 샘플링 하는 단계;
    상기 필터 정보로부터 상기 복호화 영상에 포함된 적어도 하나의 블록의 크기, 상기 적어도 하나의 블록의 서브 블록으로의 분할 여부, 블록 또는 상기 서브 블록 별 필터링의 적용 여부 및 상기 블록 또는 상기 서브 블록 별로 식별된 필터의 가중치에 관한 정보를 획득하는 단계; 및
    상기 업 샘플링 된 복호화 영상의 색차 신호 및 휘도 신호를 참조 신호로 이용하여, 상기 획득된 정보를 기초로, 상기 블록 또는 상기 서브 블록 별로 상기 복호화 영상의 색차 신호를 필터링 하는 단계를 포함하는 영상 복호화 방법
  19. 삭제
  20. 삭제
KR1020140187507A 2013-12-25 2014-12-23 영상을 부호화하는 방법, 장치, 프로그램 및 영상을 복호화하는 방법, 장치, 프로그램 및 영상 처리 시스템 KR102274319B1 (ko)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2013267440 2013-12-25
JPJP-P-2013-267440 2013-12-25
JP2014211917A JP2015144423A (ja) 2013-12-25 2014-10-16 画像符号化装置、画像復号化装置、それらの方法、プログラム及び画像処理システム
JPJP-P-2014-211917 2014-10-16

Publications (2)

Publication Number Publication Date
KR20150075382A KR20150075382A (ko) 2015-07-03
KR102274319B1 true KR102274319B1 (ko) 2021-07-07

Family

ID=53483433

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020140187507A KR102274319B1 (ko) 2013-12-25 2014-12-23 영상을 부호화하는 방법, 장치, 프로그램 및 영상을 복호화하는 방법, 장치, 프로그램 및 영상 처리 시스템

Country Status (3)

Country Link
US (1) US9769496B2 (ko)
JP (1) JP2015144423A (ko)
KR (1) KR102274319B1 (ko)

Families Citing this family (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB201500719D0 (en) * 2015-01-15 2015-03-04 Barco Nv Method for chromo reconstruction
JP6614824B2 (ja) * 2015-06-26 2019-12-04 キヤノン株式会社 画像処理装置、画像処理システム、撮像装置、画像処理方法およびプログラム
TWI669942B (zh) 2016-10-14 2019-08-21 聯發科技股份有限公司 用以移除漣漪效應之平滑化濾波方法和裝置
US10694202B2 (en) * 2016-12-01 2020-06-23 Qualcomm Incorporated Indication of bilateral filter usage in video coding
WO2018180841A1 (en) * 2017-03-29 2018-10-04 Sharp Kabushiki Kaisha Systems and methods for filtering reconstructed video data using bilateral filtering techniques
WO2020007748A1 (en) * 2018-07-02 2020-01-09 Telefonaktiebolaget Lm Ericsson (Publ) Bilateral filter with lut avoiding unnecessary multiplication and minimizing the lut
US11315467B1 (en) 2018-10-25 2022-04-26 Baylor University System and method for a multi-primary wide gamut color system
US11189210B2 (en) 2018-10-25 2021-11-30 Baylor University System and method for a multi-primary wide gamut color system
US11043157B2 (en) 2018-10-25 2021-06-22 Baylor University System and method for a six-primary wide gamut color system
US11488510B2 (en) 2018-10-25 2022-11-01 Baylor University System and method for a multi-primary wide gamut color system
US11062638B2 (en) 2018-10-25 2021-07-13 Baylor University System and method for a multi-primary wide gamut color system
US11069280B2 (en) 2018-10-25 2021-07-20 Baylor University System and method for a multi-primary wide gamut color system
US10950162B2 (en) 2018-10-25 2021-03-16 Baylor University System and method for a six-primary wide gamut color system
US11373575B2 (en) 2018-10-25 2022-06-28 Baylor University System and method for a multi-primary wide gamut color system
US11289003B2 (en) 2018-10-25 2022-03-29 Baylor University System and method for a multi-primary wide gamut color system
US10950161B2 (en) 2018-10-25 2021-03-16 Baylor University System and method for a six-primary wide gamut color system
US11475819B2 (en) 2018-10-25 2022-10-18 Baylor University System and method for a multi-primary wide gamut color system
US11069279B2 (en) 2018-10-25 2021-07-20 Baylor University System and method for a multi-primary wide gamut color system
US10997896B2 (en) 2018-10-25 2021-05-04 Baylor University System and method for a six-primary wide gamut color system
US11403987B2 (en) 2018-10-25 2022-08-02 Baylor University System and method for a multi-primary wide gamut color system
US11532261B1 (en) 2018-10-25 2022-12-20 Baylor University System and method for a multi-primary wide gamut color system
US11587491B1 (en) 2018-10-25 2023-02-21 Baylor University System and method for a multi-primary wide gamut color system
US11410593B2 (en) 2018-10-25 2022-08-09 Baylor University System and method for a multi-primary wide gamut color system
US11341890B2 (en) 2018-10-25 2022-05-24 Baylor University System and method for a multi-primary wide gamut color system
US10607527B1 (en) * 2018-10-25 2020-03-31 Baylor University System and method for a six-primary wide gamut color system
US11289000B2 (en) 2018-10-25 2022-03-29 Baylor University System and method for a multi-primary wide gamut color system
US11037481B1 (en) 2018-10-25 2021-06-15 Baylor University System and method for a multi-primary wide gamut color system
US11030934B2 (en) 2018-10-25 2021-06-08 Baylor University System and method for a multi-primary wide gamut color system
KR102642797B1 (ko) 2019-01-14 2024-03-05 삼성전자주식회사 전자 장치 및 그 제어 방법
KR20220006054A (ko) * 2019-05-11 2022-01-14 베이징 바이트댄스 네트워크 테크놀로지 컴퍼니, 리미티드 비디오 코딩을 위한 필터 디블로킹
US10929958B1 (en) * 2019-11-15 2021-02-23 Novatek Microelectronics Corp. Method and image processing device for image blurring
CN114205646B (zh) * 2020-09-18 2024-03-29 阿里巴巴达摩院(杭州)科技有限公司 数据处理方法、装置、电子设备及存储介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5253043A (en) 1991-10-24 1993-10-12 Da Vinci Systems, Inc. Upsampled interpolative processing of digital video signals
US20080247467A1 (en) 2007-01-09 2008-10-09 Nokia Corporation Adaptive interpolation filters for video coding
US20100046612A1 (en) 2008-08-25 2010-02-25 Microsoft Corporation Conversion operations in scalable video encoding and decoding
US20130039430A1 (en) * 2011-08-09 2013-02-14 Dolby Laboratories Licensing Corporation Guided Image Up-Sampling in Video Coding
US20130077884A1 (en) 2010-06-03 2013-03-28 Sharp Kabushiki Kaisha Filter device, image decoding device, image encoding device, and filter parameter data structure
US20140085537A1 (en) 2012-09-21 2014-03-27 Kabushiki Kaisha Toshiba Decoding device and encoding device

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1515567B1 (en) 2001-09-12 2006-08-23 Matsushita Electric Industrial Co., Ltd. Image coding method and image decoding method
BRPI0414397A (pt) 2003-09-17 2006-11-21 Thomson Licensing geração de imagem de referência adaptativa
US7868950B1 (en) * 2006-04-17 2011-01-11 Hewlett-Packard Development Company, L.P. Reducing noise and artifacts in an image
US20120269458A1 (en) * 2007-12-11 2012-10-25 Graziosi Danillo B Method for Generating High Resolution Depth Images from Low Resolution Depth Images Using Edge Layers
JP5045421B2 (ja) 2007-12-21 2012-10-10 ソニー株式会社 撮像装置、色ノイズ低減方法および色ノイズ低減プログラム
EP2249572A4 (en) 2008-03-07 2012-05-23 Toshiba Kk METHOD AND DEVICE FOR DYNAMIC IMAGE CODING / DECODING
WO2010001999A1 (ja) * 2008-07-04 2010-01-07 株式会社 東芝 動画像符号化/復号化方法及び装置
KR101750046B1 (ko) 2010-04-05 2017-06-22 삼성전자주식회사 트리 구조에 따른 부호화 단위에 기반한 인루프 필터링을 수반하는 비디오 부호화 방법과 그 장치 및 복호화 방법과 그 장치
RS56473B1 (sr) * 2010-09-30 2018-01-31 Samsung Electronics Co Ltd Postupak za interpolaciju slika pomoću filtera za interpolaciju i uglačavanje
JP5488719B2 (ja) * 2010-12-29 2014-05-14 富士通株式会社 映像信号符号化装置、映像信号符号化方法およびプログラム
JP2012216888A (ja) 2011-03-31 2012-11-08 Sony Corp 画像理装置および方法、並びにプログラム
US20130028538A1 (en) * 2011-07-29 2013-01-31 Simske Steven J Method and system for image upscaling

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5253043A (en) 1991-10-24 1993-10-12 Da Vinci Systems, Inc. Upsampled interpolative processing of digital video signals
US20080247467A1 (en) 2007-01-09 2008-10-09 Nokia Corporation Adaptive interpolation filters for video coding
US20100046612A1 (en) 2008-08-25 2010-02-25 Microsoft Corporation Conversion operations in scalable video encoding and decoding
US20130077884A1 (en) 2010-06-03 2013-03-28 Sharp Kabushiki Kaisha Filter device, image decoding device, image encoding device, and filter parameter data structure
US20130039430A1 (en) * 2011-08-09 2013-02-14 Dolby Laboratories Licensing Corporation Guided Image Up-Sampling in Video Coding
US20140085537A1 (en) 2012-09-21 2014-03-27 Kabushiki Kaisha Toshiba Decoding device and encoding device

Also Published As

Publication number Publication date
US9769496B2 (en) 2017-09-19
KR20150075382A (ko) 2015-07-03
JP2015144423A (ja) 2015-08-06
US20150189329A1 (en) 2015-07-02

Similar Documents

Publication Publication Date Title
KR102274319B1 (ko) 영상을 부호화하는 방법, 장치, 프로그램 및 영상을 복호화하는 방법, 장치, 프로그램 및 영상 처리 시스템
KR102075061B1 (ko) 영상 부호화 및 복호화 장치 및 그 방법
US9552633B2 (en) Depth aware enhancement for stereo video
JP7085009B2 (ja) マルチ符号ビット隠蔽及び残差符号予測を和合する方法及び装置
US20110069752A1 (en) Moving image encoding/decoding method and apparatus with filtering function considering edges
JP5902814B2 (ja) 映像符号化方法および装置、映像復号方法および装置、及びそれらのプログラム
US9712834B2 (en) Hardware efficient sparse FIR filtering in video codec
KR101648098B1 (ko) 영상 부호화 방법 및 장치, 영상 복호 방법 및 장치와 이들의 프로그램
TW201742456A (zh) 搜索參考區塊的方法
CN113994670A (zh) 具有虚拟边界的跨分量自适应环路滤波的视频编解码方法及装置
TW201820866A (zh) 用以移除漣漪效應之平滑化濾波方法和裝置
KR20120003147A (ko) 루프 필터를 이용한 깊이 영상 부호화 장치 및 복호화 장치
US20230051066A1 (en) Partitioning Information In Neural Network-Based Video Coding
JP4097587B2 (ja) 画像処理装置および画像処理方法
WO2016040255A1 (en) Self-adaptive prediction method for multi-layer codec
KR20220029742A (ko) 루프 필터 블록 유연한 파티셔닝
JP2008301336A (ja) 画像処理装置、画像符号化装置及び画像復号化装置
US11202082B2 (en) Image processing apparatus and method
JP2018107692A (ja) 動画像復号装置、動画像復号方法、動画像符号化装置、動画像符号化方法及びコンピュータ可読記録媒体
US20100002147A1 (en) Method for improving the deringing filter
KR20130020511A (ko) 영상 인트라 예측 방법 및 장치
WO2023245194A1 (en) Partitioning information in neural network-based video coding
CN115398893A (zh) 用于视频滤波的方法和设备

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant