KR20160074601A

KR20160074601A - 비디오 송신 시스템에 대한 에러 은닉 모드 시그널링

Info

Publication number: KR20160074601A
Application number: KR1020167013209A
Authority: KR
Inventors: 은석 류; 얀 예; 유웬 헤; 용 헤
Original assignee: 브이아이디 스케일, 인크.
Priority date: 2013-10-22
Filing date: 2014-10-22
Publication date: 2016-06-28
Also published as: US20160249069A1; CN105830448A; EP3061252A1; WO2015061419A1; KR20180081846A

Abstract

비디오 송신 시스템에 대한 에러 은닉 모드 시그널링을 위한 시스템, 방법, 및 수단이 개시된다. 비디오 코딩 디바이스는 복수의 픽쳐를 포함하는 비디오 입력을 수신할 수도 있다. 비디오 코딩 디바이스는 비디오 입력에서 복수의 픽쳐로부터 제1 픽쳐를 선택할 수도 있다. 비디오 코딩 디바이스는 제1 픽쳐에 대한 두 개 이상의 에러 은닉 모드를 평가할 수도 있다. 에러 은닉 모드는, 픽쳐 복제(PC), 시간적 다이렉트(TD), 모션 복제(MC), 베이스 레이어 스킵(BLSkip; 모션 & 잔차 업샘플링), 재구성된 BL 업샘플링(RU), E-ILR 모드1, 또는 E-ILR 모드2 중 두 개 이상을 포함할 수도 있다. 비디오 코딩 디바이스는, 제1 픽쳐에 대한 두 개 이상의 평가된 에러 은닉 모드로부터 에러 은닉 모드를 선택할 수도 있다. 비디오 코딩 디바이스는 제1 픽쳐에 대해 선택된 에러 은닉 모드를 비디오 비트스트림에서 시그널링할 수도 있다.

Description

비디오 송신 시스템에 대한 에러 은닉 모드 시그널링{ERROR CONCEALMENT MODE SIGNALING FOR A VIDEO TRANSMISSION SYSTEM}

교차 참조

본 출원은 2013년 10월 22일자로 출원된 미국 특허 가출원 제61/894,286호의 이익을 주장하는데, 상기 출원의 전체는 참조에 의해 본원에 통합된다.

모든 형태의 비디오(예를 들면, TV, 비디오 온 디맨드(video on demand; VoD), 인터넷, 및 P2P)의 합은 2017년까지 전세계 소비자 트래픽의 80 내지 90 퍼센트의 범위에 있을 수도 있다. 무선 및 모바일 디바이스로부터의 트래픽은 2016년까지 유선 디바이스로부터의 트래픽을 초과할 수도 있다. 비디오 온 디맨드 트래픽은 2017년까지 거의 세 배가 될 수도 있다. 2017년에 VoD 트래픽의 양은 매달 6백만장의 DVD와 동등할 수도 있다. 컨텐츠 전달 네트워크(Content Delivery Network; CDN) 트래픽은 2017년까지 모든 비디오 트래픽의 거의 2/3를 전달할 수도 있다. 2012년의 최대 53 퍼센트로부터, 2017년에는 모든 인터넷 비디오 트래픽의 65 퍼센트가 컨텐츠 전달 네트워크를 통과할 수도 있다.

고효율 비디오 코딩(High efficiency video coding; HEVC) 및 스케일러블 HEVC(scalable HEVC; SHVC)가 제공될 수도 있다. HEVC 및 SHVC는 에러 은닉(error concealment; EC)을 위한 구문 및 시맨틱(semantic)을 구비하지 않을 수도 있다. MPEG 미디어 전송(MPEG media transport; MMT)은 EC를 위한 어떠한 구문 및 시맨틱도 구비하지 않을 수도 있다.

비디오 송신 시스템에 대한 에러 은닉 모드(error concealment mode) 시그널링을 위한 시스템, 방법, 및 수단이 개시된다. 비디오 코딩 디바이스는 복수의 픽쳐를 포함하는 비디오 입력을 수신할 수도 있다. 비디오 코딩 디바이스는 비디오 입력에서 복수의 픽쳐로부터 제1 픽쳐를 선택할 수도 있다. 비디오 코딩 디바이스는 제1 픽쳐에 대한 두 개 이상의 에러 은닉 모드를 평가할 수도 있다. 비디오 코딩 디바이스는, 제1 픽쳐에 대한 두 개 이상의 평가된 에러 은닉 모드로부터 에러 은닉 모드를 선택할 수도 있다. 비디오 코딩 디바이스는 제1 픽쳐에 대해 선택된 에러 은닉 모드를 비디오 비트스트림에서 시그널링할 수도 있다. 비디오 코딩 디바이스는 제2 픽쳐에 대한 복수의 에러 은닉 모드를 평가할 수도 있다. 비디오 코딩 디바이스는, 제2 픽쳐에 대한 복수의 에러 은닉 모드에서 에러 은닉 모드를 선택할 수도 있다. 비디오 코딩 디바이스는, 제2 픽쳐에 대해 선택된 에러 은닉 모드 및 제1 픽쳐에 대해 선택된 에러 은닉 모드를 비디오 비트스트림에서 시그널링할 수도 있는데, 제1 픽쳐에 대해 선택된 에러 은닉 모드는 제2 픽쳐에 대해 선택된 에러 은닉 모드와는 상이하다.

비디오 코딩 디바이스는 제2 픽쳐에 대한 복수의 에러 은닉 모드를 평가할 수도 있다. 비디오 코딩 디바이스는, 제2 픽쳐에 대한 복수의 에러 은닉 모드에서 에러 은닉 모드를 선택할 수도 있다. 비디오 코딩 디바이스는 제2 픽쳐에 대해 선택된 에러 은닉 모드 및 제1 픽쳐에 대해 선택된 에러 은닉 모드를 비디오 비트스트림에서 시그널링할 수도 있다. 제1 픽쳐에 대해 선택된 에러 은닉 모드는 제2 픽쳐에 대해 선택된 에러 은닉 모드와 동일할 수도 있다.

비디오 코딩 디바이스는, 제1 픽쳐와 제1 픽쳐의 에러 은닉 버전(error concealed version) 사이의 디스패리티(disparity)에 기초하여 에러 은닉 모드를 선택할 수도 있다. 비디오 코딩 디바이스는, 가장 작게 계산된 디스패리티를 갖는 에러 은닉 모드를 선택할 수도 있다. 디스패리티는 제1 픽쳐와 선택된 EC 모드를 사용하여 결정되는 제1 픽쳐의 에러 은닉 버전 사이의 절대 차의 합(sum of absolute differences; SAD) 또는 구조적 유사도(structural similarity; SSIM) 중 하나 이상에 따라 측정될 수도 있다. 디스패리티는 제1 픽쳐의 하나 이상의 컬러 성분을 사용하여 측정될 수도 있다.

복수의 에러 은닉 모드는, 픽쳐 복제(Picture Copy; PC), 시간적 다이렉트(Temporal Direct; TD), 모션 복제(Motion Copy; MC), 베이스 레이어 스킵(Base Layer Skip)(BLSkip; 모션 & 잔차 업샘플링), 재구성된 BL 업샘플링(Reconstructed BL upsampling; RU), E-ILR 모드1, 또는 E-ILR 모드2 중 적어도 두 개를 포함할 수도 있다.

비디오 코딩 디바이스는 제1 픽쳐에 대해 선택된 에러 은닉 모드를 비디오 비트스트림에서 시그널링할 수도 있다. 비디오 코딩 디바이스는 에러 은닉 모드를, 비디오 비트스트림의 보충 향상 정보(supplemental enhancement information; SEI) 메시지, MPEG 미디어 전송(MPEG media transport; MMT) 전송 패킷, 또는 MMT 에러 은닉 모드(error concealment mode; ECM) 메시지에서 시그널링할 수도 있다.

비디오 코딩 디바이스는 복수의 픽쳐를 포함하는 비디오 비트스트림을 수신할 수도 있다. 비디오 코딩 디바이스는 제1 픽쳐에 대한 에러 은닉 모드를 비디오 비트스트림에서 수신할 수도 있다. 비디오 코딩 디바이스는 제1 픽쳐가 유실(lost)되었다는 것을 결정할 수도 있다. 비디오 코딩 디바이스는 제1 픽쳐에 대한 에러 은닉을 수행할 수도 있다. 에러 은닉은 제1 픽쳐에 대한 수신된 에러 은닉 모드를 사용하여 수행될 수도 있다. 비디오 코딩 디바이스는 제2 픽쳐에 대한 에러 은닉 모드를 비디오 비트스트림에서 수신할 수도 있다. 비디오 코딩 디바이스는 제2 픽쳐가 되었다는 것을 결정할 수도 있다. 비디오 코딩 디바이스는 제2 픽쳐에 대한 에러 은닉을 수행할 수도 있다. 에러 은닉은 제2 픽쳐에 대한 수신된 에러 은닉 모드를 사용하여 수행될 수도 있다. 제2 픽쳐에 대한 에러 은닉 모드는 제1 픽쳐에 대한 에러 은닉 모드와 동일할 수도 있다. 제2 픽쳐에 대한 에러 은닉 모드는 제1 픽쳐에 대한 에러 은닉 모드와는 상이할 수도 있다.

비디오 코딩 디바이스는 복수의 픽쳐를 포함하는 비디오 입력을 수신할 수도 있다. 비디오 코딩 디바이스는 비디오 입력에서 복수의 픽쳐로부터 제1 픽쳐를 선택할 수도 있다. 비디오 코딩 디바이스는 제1 픽쳐에 대한 두 개 이상의 에러 은닉 모드를 평가할 수도 있다. 비디오 코딩 디바이스는, 제1 픽쳐에 대한 두 개 이상의 평가된 에러 은닉 모드로부터 에러 은닉 모드를 선택할 수도 있다. 비디오 코딩 디바이스는 제1 픽쳐에 대해 선택된 에러 은닉 모드를 비디오 비트스트림에서 시그널링할 수도 있다. 비디오 코딩 디바이스는 비디오 입력에서 복수의 픽쳐로부터 제2 픽쳐를 선택할 수도 있다. 비디오 코딩 디바이스는 제2 픽쳐에 대한 두 개 이상의 에러 은닉 모드를 평가할 수도 있다. 비디오 코딩 디바이스는, 제2 픽쳐에 대한 두 개 이상의 평가된 에러 은닉 모드로부터 에러 은닉 모드를 선택할 수도 있다. 비디오 코딩 디바이스는 제2 픽쳐에 대해 선택된 에러 은닉 모드를 비디오 비트스트림에서 시그널링할 수도 있다. 제1 픽쳐에 대해 선택된 에러 은닉 모드는 제2 픽쳐에 대해 선택된 에러 은닉 모드와는 상이할 수도 있다. 제1 픽쳐에 대해 선택된 에러 은닉 모드는 제2 픽쳐에 대해 선택된 에러 은닉 모드와 동일할 수도 있다.

비디오 코딩 디바이스는 복수의 픽쳐의 각각의 픽쳐에 대한 두 개 이상의 에러 은닉 모드를 평가할 수도 있다. 비디오 코딩 디바이스는 복수의 픽쳐를 제1 픽쳐 서브셋 및 제2 픽쳐 서브셋으로 분할할 수도 있다. 비디오 코딩 디바이스는, 복수의 픽쳐의 각각의 픽쳐에 대한 두 개 이상의 평가된 에러 은닉 모드로부터 에러 은닉 모드를 선택할 수도 있다. 제1 픽쳐 서브셋에 대해 선택된 에러 은닉 모드는 동일할 수도 있고 제2 픽쳐 서브셋에 대해 선택된 에러 은닉 모드는 동일할 수도 있다. 비디오 코딩 디바이스는 제1 픽쳐 서브셋에 대해 선택된 에러 은닉 모드 및 제2 픽쳐 서브셋에 대해 선택된 에러 은닉 모드를 비디오 비트스트림에서 시그널링할 수도 있다. 비디오 코딩 디바이스는, 비디오 입력의 상위 레이어(higher layer)가 존재한다는 것을 결정할 수도 있다. 상위 레이어는 제1 픽쳐를 포함하는 레이어보다 더 상위에 있을 수도 있다. 비디오 코딩 디바이스는 비디오 입력의 상위 레이어에서 복수의 픽쳐로부터 픽쳐를 선택할 수도 있다. 비디오 코딩 디바이스는 상위 레이어의 선택된 픽쳐에 대한 두 개 이상의 에러 은닉 모드를 평가할 수도 있다. 비디오 코딩 디바이스는, 상위 레이어로부터의 선택된 픽쳐에 대한 두 개 이상의 평가된 에러 은닉 모드로부터 에러 은닉 모드를 선택할 수도 있다. 비디오 코딩 디바이스는 상위 레이어의 선택된 픽쳐에 대해 선택된 에러 은닉 모드를 제1 픽쳐에 대한 에러 은닉 모드와 함께 비디오 비트스트림에서 시그널링할 수도 있다.

비디오 코딩 디바이스는 레이어에 대한 두 개 이상의 에러 은닉 모드를 평가할 수도 있다. 비디오 코딩 디바이스는 두 개 이상의 에러 은닉 모드로부터 에러 은닉 모드를 선택할 수도 있다. 비디오 코딩 디바이스는 선택된 에러 은닉 모드를 레이어에 대한 비디오 비트스트림에서 시그널링할 수도 있다.

도 1은 예시적인 다중 레이어 스케일러블 비디오 코딩 시스템(multi-layer scalable video coding system)을 묘사한다.
도 2는 비디오 스트리밍 시스템 아키텍쳐의 한 예의 도면이다.
도 3은 HD-UHD 스케일러빌러티(HD to UHD scalability)를 수행하도록 구성될 수도 있는 예시적인 2 레이어의 스케일러블 비디오 인코더를 예시하는 단순화된 블록도이다.
도 4는 HD-UHD 스케일러빌러티를 수행하도록 구성될 수도 있는 예시적인 2 레이어의 스케일러블 비디오 디코더를 예시하는 단순화된 블록도이다.
도 5는 입체 비디오 코딩을 위한 시간 및 레이어간 예측의 예를 묘사한다.
도 6은 계층적 B 픽쳐를 갖는 픽쳐 참조 관계의 예의 도면이다.
도 7a 내지 도 7e는, 스케일러블 비디오 코딩의 베이스 레이어(base layer; BL) 및/또는 향상 레이어(enhancement layer; EL)에서 픽쳐 유실의 예시적인 경우의 도면이다.
도 8은 픽쳐 복제의 예의 도면이다.
도 9는 B 픽쳐에 대한 시간 다이렉트의 예의 도면이다.
도 10a는 현존하는 EC의 예의 도면이다.
도 10b는 EC 모드 시그널링의 예의 도면이다.
도 11은 비디오 인코딩 디바이스의 관점으로부터의 예시적인 EC 모드 시그널링의 도면이다.
도 12는 비디오 디코딩 디바이스의 관점으로부터의 예시적인 EC 모드 시그널링의 도면이다.
도 13은 유실되는 두 개의 연속하는 픽쳐의 예의 도면이다.
도 14는 EC 모드 시그널링의 예의 도면이다.
도 15는 EC 모드 시그널링 환경의 예의 도면이다.
도 16은 에러 패턴 파일 생성의 예의 도면이다.
도 17은 EC 모드2 및 EC 모드4 사이의 예시적인 PSNR 비교의 도면이다.
도 18a는 지원가능한 EC 모드를 갖는 멀티캐스트 그룹의 예의 도면이다.
도 18b는 지원가능한 EC 모드를 갖는 예시적인 세션 개시의 도면이다.
도 19a는 하나 이상의 개시된 실시형태가 구현될 수도 있는 예시적인 통신 시스템의 시스템 도면이다.
도 19b는 도 19a에서 예시되는 통신 시스템 내에서 사용될 수도 있는 예시적인 무선 송수신 유닛(wireless transmit/receive unit; WTRU)의 시스템 도면이다.
도 19c는 도 19a에서 예시되는 통신 시스템 내에서 사용될 수도 있는 예시적인 코어 네트워크와 예시적인 무선 액세스 네트워크의 시스템 도면이다.
도 19d는 도 19a에서 예시되는 통신 시스템 내에서 사용될 수도 있는 다른 예시적인 코어 네트워크와 예시적인 무선 액세스 네트워크의 시스템 도면이다.
도 19e는 도 19a에서 예시되는 통신 시스템 내에서 사용될 수도 있는 다른 예시적인 코어 네트워크와 예시적인 무선 액세스 네트워크의 시스템 도면이다.
도 20은 예시적인 EC 모드 시그널링의 도면이다.
도 21은 예시적인 EC 모드 시그널링의 도면이다.

이제, 예시적인 실시형태의 상세한 설명이 다양한 도면을 참조로 설명될 것이다. 이 설명이 가능한 구현예의 상세한 예를 제공하지만, 상세는 예시적인 것으로 의도된 것이며 본 출원의 범위를 어떤 식으로든 제한하도록 의도된 것이 아니다는 것을 유의해야 한다.

도 1은 예시적인 블록 기반의 하이브리드 스케일러블 비디오 코딩(scalable video coding; SVC) 시스템을 묘사하는 단순화된 블록도이다. 레이어1(베이스 레이어)에 의해 표현될 공간 및/또는 시간 신호 해상도는 입력 비디오 신호의 다운샘플링에 의해 생성될 수도 있다. 후속하는 인코딩 단계에서, Q1과 같은 양자화기의 설정은 기본 정보의 품질 레벨로 이어질 수도 있다. 하나 이상의 후속하는 상위(higher) 레이어(들)는, 상위 레이어 해상도 레벨의 근사를 나타낼 수도 있는 베이스 레이어 재구성(Y1)을 사용하여 인코딩될 수도 있고/있거나 디코딩될 수도 있다. 업샘플링 유닛은, 베이스 레이어 재구성 신호를 레이어2의 해상도로 업샘플링하는 것을 수행할 수도 있다. 다운샘플링 및/또는 업샘플링은 복수의 레이어(예를 들면, N개의 레이어의 경우, 레이어1, 레이어2, …, 레이어N) 전체에 걸쳐 수행될 수도 있다. 다운샘플링 및/또는 업샘플링 비율은, 예를 들면, 두 레이어 사이의 스케일러빌러티의 차원에 의존하여 상이할 수도 있다.

도 1의 예시적인 스케일러블 비디오 코딩 시스템에서, 주어진 상위 레이어n(예를 들면, 2 ≤ n ≤ N, N은 레이어의 총 수)에 대해, 현재의 레이어n 신호로부터, 업샘플링된 하위 레이어 신호(예를 들면, 레이어n-1 신호)를 감산하는 것에 의해 차분 신호가 생성될 수도 있다. 이 차분 신호는 인코딩될 수도 있다. 두 레이어(레이어n1 및 레이어n2)에 의해 표현되는 각각의 비디오 신호가 동일한 공간 해상도를 가지면, 대응하는 다운샘플링 및/또는 업샘플링 동작은 바이패스될 수도 있다. 상위 레이어로부터의 디코딩 정보를 사용하지 않고도 주어진 레이어n(예를 들면, 1 ≤ n ≤ N) 또는 복수의 레이어가 디코딩될 수도 있다.

예를 들면, 도 1의 예시적인 SVC 시스템을 사용하여, 베이스 레이어 이외의 레이어에 대한 잔차 신호(예를 들면, 두 레이어 사이의 차분 신호)의 코딩에 의존하는 것은, 시각적 아티팩트(visual artifact)를 야기할 수도 있다. 이러한 시각적 아티팩트는, 예를 들면, 잔차 신호의 다이나믹 레인지를 제한하기 위한 잔차 신호의 양자화 및/또는 정규화 및/또는 잔차의 코딩 동안 수행되는 양자화에 기인할 수도 있다. 하나 이상의 상위 레이어 인코더는, 각각의 인코딩 모드로서 모션 추정 및/또는 모션 보상된 예측을 채택할 수도 있다. 잔차 신호에서의 모션 추정 및/또는 보상은 종래의 모션 추정과는 상이할 수도 있고, 시각적 아티팩트로 나타나기 쉬울 수도 있다. 시각적 아티팩트의 발생을 감소시키기 위해(예를 들면, 최소화하기 위해), 예를 들면, 잔차 신호의 다이나믹 레인지를 제한하기 위한 잔차 신호의 양자화 및/또는 정규화 및/또는 잔차의 코딩 동안 수행되는 양자화 둘 다를 포함할 수도 있는 조인트 양자화 프로세스와 함께, 더 복잡한 잔차 양자화가 구현될 수도 있다. 이러한 양자화 프로세스는 SVC 시스템의 복잡도를 증가시킬 수도 있다.

스케일러블 비디오 코딩은 부분적인 비트스트림의 송신 및 디코딩을 인에이블할 수도 있다. 이것은, 상대적으로 높은 재구성 품질(예를 들면, 부분적인 비트스트림의 주어진 각각의 레이트)을 유지하면서, SVC가 하위의 시간적 및/또는 공간적 해상도 또는 감소된 충실도(fidelity)를 갖는 비디오 서비스를 제공하는 것을 가능하게 할 수도 있다. SVC는 단일 루프 디코딩으로 구현될 수도 있고, 따라서, SVC 디코더는 디코딩되고 있는 레이어에서 모션 보상 루프를 셋업할 수도 있고, 하나 이상의 다른 하위 레이어(들)에서 모션 보상 루프(들)를 셋업하지 않을 수도 있다. 예를 들면, 비트스트림은, 베이스 레이어일 수도 있는 제1 레이어(레이어1) 및 향상 레이어일 수도 있는 제2 레이어(레이어2)를 포함하는 두 개의 레이어를 포함할 수도 있다. 이러한 SVC 디코더가 레이어2 비디오를 재구성하는 경우, 모션 보상된 픽쳐 및 디코딩된 픽쳐 버퍼의 셋업은 레이어2로 제한될 수도 있다. SVC의 이러한 구현예에서, 하위 레이어(lower layer)로부터의 각각의 참조 픽쳐는 완전히 재구성되지 않을 수도 있고, 이것은 디코더에서 계산적 복잡도 및/또는 메모리 소비를 감소시킬 수도 있다.

단일 루프 디코딩은 제약된 레이어간 텍스쳐 예측(inter-layer texture prediction)에 의해 달성될 수도 있는데, 여기서는, 주어진 레이어의 현재 블록에 대해, 대응하는 하위 레이어 블록이 인트라 모드에서 코딩되면, 하위 레이어로부터의 공간 텍스쳐 예측이 허용될 수도 있다. 이것은 제한된 인트라 예측으로 칭해질 수도 있다. 하위 레이어 블록이 인트라 모드에서 코딩되는 경우, 하위 레이어 블록은 모션 보상 동작 및/또는 디코딩된 픽쳐 버퍼 없이 재구성될 수도 있다.

SVC는, 하나 이상의 하위 레이어로부터, 모션 벡터 예측, 잔차 예측, 모드 예측 등등과 같은 그러나 이들로 제한되지는 않는 하나 이상의 추가적인 레이어간 예측을 구현할 수도 있다. 이것은 향상 레이어의 레이트-왜곡 효율성을 향상시킬 수도 있다. 단일 루프 디코딩을 갖는 SVC 구현은, 디코더에서, 감소된 계산적 복잡도 및/또는 감소된 메모리 소비를 나타낼 수도 있고, 예를 들면, 블록 레벨 레이어간 예측에 대한 의존성에 기인하여, 증가된 구현 복잡도를 나타낼 수도 있다. 단일 루프 디코딩 제약을 부과하는 것에 의해 초래될 수도 있는 성능 페널티를 보상하기 위해, 인코더 설계 및 계산 복잡성은, 소망의 성능이 달성되도록, 증가될 수도 있다. 인트레이스식 컨텐츠(interlaced content)의 코딩은 SVC에 의해 지원되지 않을 수도 있다.

다중 뷰 비디오 코딩(multi-view video coding; MVC)은 뷰 스케일러빌러티를 제공할 수도 있다. 뷰 스케일러빌러티의 한 예에서, 종래의 이차원(two dimensional; 2D) 비디오를 재구성하기 위해 베이스 레이어 비트스트림이 디코딩될 수도 있고, 동일한 비디오 신호의 다른 뷰 표현을 재구성하기 위해, 하나 이상의 추가적인 향상 레이어가 디코딩될 수도 있다. 이러한 뷰가 결합되어 삼차원(three dimensional; 3D) 디스플레이에 의해 디스플레이될 때, 적절한 깊이감을 갖는 3D 비디오가 생성될 수도 있다.

비디오 코딩 디바이스는, 예컨대 에러가 발생하기 쉬운 네트워크(error prone networks)를 통한 비디오 송신 서비스에 대해 에러 은닉(EC)을 사용할 수도 있다. 비디오 코딩 디바이스, 예컨대 비디오 디코딩 디바이스는, 비디오 코딩 디바이스가 원래의 픽쳐에 액세스하지 않으면서 많은 EC 모드 중에서 한 EC 모드를 선택하는 데 어려움을 가질 수도 있다. 비디오 디코더측에서(예를 들면, 디코더측에서만) 작동하는 EC 모드는 제한될 수도 있다.

비디오 코딩 디바이스는 EC 모드 시그널링을 전송하도록 및/또는 수신하도록 구성될 수도 있다. 예를 들면, 비디오 코딩 디바이스, 예컨대 비디오 인코딩 디바이스는 손상된 픽쳐에 대해 다양한 EC 모드를 시뮬레이팅할 수도 있다. 비디오 인코딩 디바이스는, 원래의 이미지와 재구성된 이미지 사이에 소망의 디스패리티(예를 들면, 최소 디스패리티)를 제공하는 EC 모드를 결정할 수도 있다. 비디오 인코딩 디바이스는 계산된 EC 모드를, 클라이언트의 비디오 디코더로 시그널링할 수도 있다. 예를 들면, 클라이언트는 무선 송수신 유닛(WTRU)일 수도 있다.

도 2는 비디오 스트리밍 시스템 아키텍쳐의 한 예의 도면이다. 비디오 서버는, 예를 들면, 비디오 인코더(201), 에러 보호부(202), 선택적 스케줄러(203), 스트리밍을 위한 서비스 품질(quality of service; QoS) 컨트롤러(204) 및/또는 채널 예측부(205)와 같은 다수의 모듈을 포함할 수도 있다. 비디오 코딩 디바이스는 QoS 컨트롤러(204)의 기능성을 포함할 수도 있다. 비디오 클라이언트(209)는 EC 모듈을 포함할 수도 있다. 네트워크의 관점에서, 비디오 패킷은 에러가 발생하기 쉬운 네트워크를 통해 송신될 수도 있다. 송신은 무선 연결에서 발생할 수도 있는 패킷 유실을 고려할 수도 있다. 패킷 유실은, 신호 간섭 및/또는 혼잡 제어를 위한 패킷 드랍으로 인해 발생할 수도 있다. 네트워크(206)는, 네트워크 에러로부터 패킷을 복원하기 위해, 자동 재전송 요청(automatic repeat request; ARQ) 및/또는 순방향 에러 정정(forward error correction; FEC)을 사용할 수도 있다. 네트워크가 ARQ 및/또는 FEC를 사용하는 경우, 송신 지연 및/또는 지터가 예측치 못하게 발생할 수도 있다. 레이어 교차 최적화(cross-layer optimization)는, 예를 들면, 소망하지 않은 지연 및 지터 때문에, 링크 및 물리적 레이어에서의 재송신(예를 들면, ARQ) 및/또는 에러 보호(예를 들면, FEC)의 사용을 방지할 수도 있다. 비디오 컨텐츠 인식 에러 보호(예를 들면, 비균등 에러 보호(unequal error protection; UEP)) 및/또는 EC 모드가 애플리케이션 레이어에서 사용될 수도 있다.

비디오 서버(207) 및/또는 클라이언트(209)는 에러 복원 스트리밍 및/또는 EC 모드를, 예를 들면, 흐름 제어 및/또는 혼잡 제어와 함께 제공할 수도 있다. 도 2에서, 서버(207) 및 클라이언트(209)는 QoS 메트릭을 제어하기 위해 제어 메시지(예를 들면, 신호)를 교환할 수도 있다. 시그널링 결과는 전체적인 비디오 품질을 향상시킬 수도 있다. 게이트웨이(208) 및/또는 라우터는 애플리케이션 레이어에서 QoS 품질을 유지하기 위해 리소스 예약을 위한 제어 메시지를 사용할 수도 있다. 애플리케이션 레이어에서의 QoS 품질은 MPEG 미디어 전송(MMT)에 대한 피쳐일 수도 있다.

MPEG 프레임 호환(MPEG frame compatible; MFC) 비디오 코딩은 3D 비디오 코딩에 대해 스케일러블 확장을 제공할 수도 있다. 예를 들면, MFC는 프레임 호환 베이스 레이어 비디오(예를 들면, 동일한 프레임으로 패킹된 두 개의 뷰)에 스케일러블 확장을 제공할 수도 있고, 풀 해상도 뷰를 복원하기 위한 하나 이상의 향상 레이어를 제공할 수도 있다. 입체 3D 비디오는 좌측 및 우측 뷰를 포함하는 두 개의 뷰를 구비할 수도 있다. 입체 3D 컨텐츠는, 두 개의 뷰를 하나의 프레임으로 패킹하고/하거나 멀티플렉싱하는 것에 의해, 그리고 패킹된 비디오를 압축하여 송신하는 것에 의해 전달될 수도 있다. 수신기 측에서, 디코딩 이후, 프레임은 언패킹되고 두 개의 뷰로서 디스플레이될 수도 있다. 뷰의 이러한 멀티플렉싱은 시간 도메인 및/또는 공간 도메인에서 수행될 수도 있다. 공간 도메인에서 수행되는 경우, 동일한 픽쳐 사이즈를 유지하기 위해, 두 개의 뷰는 (예를 들면, 2의 인자에 의해) 공간적으로 다운샘플링될 수도 있고 하나 이상의 배치예에 따라 패킹될 수도 있다. 예를 들면, 나란한 배치예는 다운샘플링된 좌측 뷰를 픽쳐의 좌측 절반 상에 그리고 다운샘플링된 우측 뷰를 픽쳐의 우측 절반 상에 둘 수도 있다. 다른 배치예는 상하(top-and-bottom), 라인별(line-by-line), 체커보드 등등을 포함할 수도 있다. 프레임 호환 3D 비디오를 달성하기 위해 사용되는 배치예는, 예를 들면, 하나 이상의 프레임 패킹 배치 SEI 메시지에 의해 전달될 수도 있다. 이러한 배치예가 대역폭 소비를 최소한으로 증가시키면서 3D 전달을 달성할 수도 있지만, 공간적 다운샘플링은 뷰에서 앨리어싱(aliasing)을 야기할 수도 있고/있거나 3D 비디오의 시각적 품질 및 유저 경험을 감소시킬 수도 있다.

비디오 코딩 시스템(예를 들면, 고효율 비디오 코딩의 스케일러블 확장(scalable extensions of high efficiency video coding; SHVC)에 따른 비디오 코딩 시스템)은, 비디오 코딩을 수행하도록 구성되는 하나 이상의 디바이스를 포함할 수도 있다. 비디오 코딩을 수행하도록(예를 들면, 비디오 신호를 인코딩하도록 및/또는 디코딩하도록) 구성되는 디바이스는 비디오 코딩 디바이스로서 칭해질 수도 있다. 이러한 비디오 코딩 디바이스는 비디오 대응 디바이스(video-capable device), 예를 들면, 텔레비전, 디지털 미디어 플레이어, DVD 플레이어, Blu-ray™ 플레이어, 네트워크형 미디어 플레이어 디바이스(networked media player device), 데스크탑 컴퓨터, 랩탑 퍼스널 컴퓨터, 태블릿 디바이스, 모바일 폰, 비디오 회의 시스템, 하드웨어 및/또는 소프트웨어 기반의 비디오 인코딩 시스템, 또는 등등을 포함할 수도 있다. 이러한 비디오 코딩 디바이스는 무선 통신 네트워크 엘리먼트, 예컨대 무선 송수신 유닛(WTRU), 기지국, 게이트웨이, 또는 다른 네트워크 엘리먼트를 포함할 수도 있다.

도 3은 예시적인 인코더(예를 들면, SHVC 인코더)를 예시하는 단순화된 블록도이다. 도시된 예의 인코더는 두 레이어의 HD-UHD 스케일러블 비트스트림을 생성하기 위해 사용될 수도 있다. 도 3에서 도시되는 바와 같이, 베이스 레이어(base layer; BL) 비디오 입력(330)은 HD 비디오 신호일 수도 있고, 향상 레이어(enhancement layer; EL) 비디오 입력(302)은 UHD 비디오 신호일 수도 있다. HD 비디오 신호(330) 및 UHD 비디오 신호(302)는, 예를 들면, 다음 중 하나에 의해 서로 대응할 수도 있다: 하나 이상의 다운샘플링 파라미터(예를 들면, 공간적 스케일러빌러티); 하나 이상의 컬러 그레이딩 파라미터(color grading parameter)(예를 들면, 컬러 색역 스케일러빌러티), 또는 하나 이상의 색조(tone) 매핑 파라미터(예를 들면, 비트 깊이 스케일러빌러티)(328).

BL 인코더(318)는, 예를 들면, 고효율 비디오 코딩(HEVC) 비디오 인코더 또는 H.264/AVC 비디오 인코더를 포함할 수도 있다. BL 인코더(318)는, 예측을 위해 하나 이상의 BL 재구성 픽쳐(BL reconstructed picture)(예를 들면, BL DPB(320)에 저장됨)를 사용하여 BL 비트스트림(332)을 생성하도록 구성될 수도 있다. EL 인코더(304)는, 예를 들면, HEVC 인코더를 포함할 수도 있다. EL 인코더(304)는, 예를 들면, EL DPB에 레이어간 참조 픽쳐를 추가하는 것에 의해 레이어간 예측을 지원하기 위한 하나 이상의 하이 레벨 구문 수정을 포함할 수도 있다. EL 인코더(304)는, 예측을 위해 하나 이상의 EL 재구성 픽쳐(예를 들면, EL DPB(306)에 저장됨)를 사용하여 EL 비트스트림(808)을 생성하도록 구성될 수도 있다.

BL DPB(320)의 하나 이상의 재구성된 BL 픽쳐는, 업샘플링(예를 들면, 공간적 스케일러빌러티의 경우), 컬러 색역 변환(예를 들면, 컬러 색역 스케일러빌러티의 경우), 또는 역 색조 매핑(예를 들면, 비트 깊이 스케일러빌러티의 경우) 중 하나 이상을 포함하는 하나 이상의 픽쳐 레벨 레이어간 프로세싱 기술을 사용하여, 레이어간 프로세싱(inter-layer processing; ILP) 유닛(322)에서 프로세싱될 수도 있다. 하나 이상의 프로세싱된 재구성된 BL 픽쳐는 EL 코딩에 대한 참조 픽쳐로서 사용될 수도 있다. 레이어간 프로세싱은 EL 인코더(304)로부터 수신되는 향상 비디오 정보(314) 및/또는 BL 인코더(318)로부터 수신되는 기본 비디오 정보(816)에 기초하여 수행될 수도 있다. 이것은 EL 코딩 효율성을 향상시킬 수도 있다.

326에서, EL 비트스트림(308), BL 비트스트림(332), 및 레이어간 프로세싱에서 사용되는 파라미터, 예컨대 ILP 정보(324)는, 함께, 스케일러블 비트스트림(312)으로 멀티플렉싱될 수도 있다. 예를 들면, 스케일러블 비트스트림(312)은 SHVC 비트스트림을 포함할 수도 있다.

도 4는, 도 3에서 묘사되는 예시적인 인코더에 대응할 수도 있는 예시적인 디코더(예를 들면, SHVC 디코더)를 예시하는 단순화된 블록도이다. 도시된 예의 디코더는, 예를 들면, 두 레이어의 HD-UHD 비트스트림을 디코딩하기 위해 사용될 수도 있다.

도 4에서 도시되는 바와 같이, 디멀티플렉서 모듈(412)은 스케일러블 비트스트림(402)을 수신할 수도 있고, 스케일러블 비트스트림(402)을 디멀티플렉싱하여 ILP 정보(414), EL 비트스트림(404) 및 BL 비트스트림(418)을 생성할 수도 있다. 스케일러블 비트스트림(402)은 SHVC 비트스트림을 포함할 수도 있다. 비트스트림(404)은 EL 디코더(406)에 의해 디코딩될 수도 있다. EL 디코더(406)는, 예를 들면, HEVC 비디오 디코더를 포함할 수도 있다. EL 디코더(406)는, 예측을 위해 하나 이상의 EL 재구성 픽쳐(예를 들면, EL DPB(408)에 저장됨)를 사용하여 UHD 비디오 신호(410)를 생성하도록 구성될 수도 있다. BL 비트스트림(418)은 BL 디코더(420)에 의해 디코딩될 수도 있다. BL 디코더(420)는, 예를 들면, HEVC 비디오 디코더 또는 H.264/AVC 비디오를 포함할 수도 있다. BL 디코더(420)는 예측을 위해 하나 이상의 BL 재구성 픽쳐(예를 들면, BL DPB(422)에 저장됨)를 사용하여 HD 비디오 신호(424)를 생성하도록 구성될 수도 있다. UHD 비디오 신호(410) 및 HD 비디오 신호(424)와 같은 재구성된 비디오 신호는 디스플레이 디바이스를 구동하기 위해 사용될 수도 있다.

BL DPB(422)의 하나 이상의 재구성된 BL 픽쳐는, 하나 이상의 픽쳐 레벨 레이어간 프로세싱 기술을 사용하여, ILP 유닛(916)에서 프로세싱될 수도 있다. 이러한 픽쳐 레벨 레이어간 프로세싱 기술은, 업샘플링(예를 들면, 공간적 스케일러빌러티의 경우), 컬러 색역 변환(예를 들면, 컬러 색역 스케일러빌러티의 경우), 또는 역 색조 매핑(예를 들면, 비트 깊이 스케일러빌러티의 경우) 중 하나 이상을 포함할 수도 있다. 하나 이상의 프로세싱된 재구성된 BL 픽쳐는 EL 코딩에 대한 참조 픽쳐로서 사용될 수도 있다. 레이어간 프로세싱은 ILP 정보(414)와 같은 레이어간 프로세싱에서 사용되는 파라미터에 기초하여 수행될 수도 있다. 예측 정보는 예측 블록 사이즈, 하나 이상의 모션 벡터(예를 들면, 이것은 모션의 방향 및 양을 나타낼 수도 있다), 및/또는 하나 이상의 참조 인덱스(예를 들면, 이것은 어떤 참조 픽쳐로부터 예측 신호가 획득되어야 하는지를 나타낼 수도 있다)를 포함할 수도 있다. 이것은 EL 디코딩 효율성을 향상시킬 수도 있다.

참조 인덱스 기반의 프레임워크는, 단일 레이어 코덱에서의 블록 레벨 동작과 유사한 블록 레벨 동작을 수행할 수도 있다. 단일 레이어 코덱 로직은 스케일러블 코딩 시스템 내에서 재사용될 수도 있다. 참조 인덱스 기반의 프레임워크는 스케일러블 코덱 설계를 단순화할 수도 있다. 참조 인덱스 기반의 프레임워크는, 예를 들면, 적절한 하이 레벨 구문 시그널링에 의해 및/또는 코딩 효율성을 달성하기 위해 레이어간 프로세싱을 활용하는 것에 의해, 상이한 타입의 스케일러빌러티를 지원하기 위한 유연성을 제공할 수도 있다. 하나 이상의 하이 레벨 구문 변경은 SHVC의 레이어간 프로세싱 및/또는 다중 레이어 시그널링을 지원할 수도 있다.

도 5는 좌측 뷰(레이어1) 및 우측 뷰(레이어2)를 갖는 입체 비디오를 코딩하기 위해 MVC를 사용하는 예시적인 예측 구조를 묘사한다. 좌측 뷰 비디오는 I-B-B-P 예측 구조로 코딩될 수도 있고, 우측 뷰 비디오는 P-B-B-B 예측 구조로 코딩될 수도 있다. 도 5에서 도시되는 바와 같이, 우측 뷰에서, 좌측 뷰의 제1의 I픽쳐와 병치되는(collocated) 제1 픽쳐는 P 픽쳐로서 코딩될 수도 있고, 우측 뷰에서의 후속하는 픽쳐는 우측 뷰에서 시간 참조로부터 유래하는 제1 예측, 및 좌측 뷰에서 레이어간 참조로부터 유래하는 제2 예측을 갖는 B 픽쳐로서 코딩될 수도 있다. MVC는 단일 루프 디코딩 피쳐를 지원하지 않을 수도 있다. 예를 들면, 도 5에서 도시되는 바와 같이, 우측 뷰(레이어2) 비디오의 디코딩은, 좌측 뷰(레이어1)의 픽쳐 전체의 이용가능성을 조건으로 할 수도 있는데, 각각의 레이어(뷰)는 각각의 보상 루프를 갖는다. MVC의 구현은 하이 레벨 구문 변경을 포함할 수도 있고, 블록 레벨 변경을 포함하지 않을 수도 있다. 이것은 MVC의 구현을 용이하게 할 수도 있다. 예를 들면, MVC는 슬라이스 및/또는 픽쳐 레벨에서 참조 픽쳐를 구성하는 것에 의해 구현될 수도 있다. MVC는, 다수의 뷰에 걸쳐 레이어간 예측을 수행하도록 도 3에서 도시되는 예를 확장하는 것에 의해, 두 개보다 많은 뷰의 코딩을 지원할 수도 있다.

도 6은 계층적 B 픽쳐를 갖는 픽쳐 참조 관계의 예의 도면이다. 픽쳐 참조 배치(600)는, 일반적인 계층적 B 픽쳐 및 그들의 픽쳐 예측 관계의 예를 나타낸다. 하위 시간 레벨에 위치되는 픽쳐는 상위 시간 레벨의 픽쳐에 의해 참조될 수도 있다. 예를 들면, 송신 동안 픽쳐가 유실되면, 비디오 코딩 디바이스는 참조 픽쳐(들)를 사용하여 유실된 픽쳐를 대체하도록 및/또는 재생성하도록 구성될 수도 있다. 스케일러블 비디오 코딩이 사용되면, 비디오 코딩 디바이스는, 예를 들면, 도 6에서 도시되는 바와 같이, 현재 및/또는 하위 레이어의 참조 픽쳐(들)를 사용하여, 유실된 픽쳐로부터의 에러를 은닉하도록 구성될 수도 있다. 예를 들면, POC622는 POC662, POC612, 및/또는 POC632에 의해 참조될 수도 있는데, POC622가 POC662의 참조 픽쳐 리스트 안에 있을 수도 있기 때문이다(예를 들면, HEVC 및 SHVC의 공통 테스트 조건(common test condition; CTC)). 실제 에러 전파는, (예를 들면, 도 7a 내지 도 7e에서 도시되는 바와 같이) 동일한 인트라구간(intra period)에서 다른 후속하는 픽쳐에 영향을 끼칠 수도 있다.

도 7a 내지 도 7e는, 스케일러블 비디오 코딩의 베이스 레이어(BL) 및/또는 향상 레이어(EL)에서 픽쳐 유실의 예시적인 경우의 도면이다. 도 7a는 EL에서의 계층적 B 구조체 내에서 유실되는 참조되지 않은 픽쳐(non-referenced picture)(EL735)의 예이다. 예시적인 픽쳐 시퀀스(790)에서, 비디오 디코딩 디바이스는, EC 솔루션으로서 유실된 EL735에 대해 픽쳐 EL725, EL745, 및/또는 BL730 중 하나 이상을 복제할 수도 있다. 비디오 코딩 디바이스는 스케일러블 HEVC 테스트 모델(Scalable HEVC Test Model; SHM) EC를 사용할 수도 있다. 비디오 코딩 디바이스는 SHM EC를 사용하여 가장 가까운 다음 픽쳐를 참조 리스트에 복제할 수도 있다. 예를 들면, 다음 픽쳐(EL745)의 베이스 양자화 파라미터(QP) 값이 이전 픽쳐(EL725)의 것보다 더 작으면, 복제된 픽쳐는 더 나은 피크 신호 대 잡음비(peak signal-to-noise ratio; PSN)를 가질 수도 있다.

도 7b는 EL에서의 참조된 픽쳐 유실의 예이다. 예시적인 픽쳐 시퀀스(791)에서, 비디오 코딩 디바이스는 유실된 픽쳐 EL726에 대해 EL706, EL746, 및/또는 BL721 중 하나 이상을 복제할 수도 있다. EL726이 EL716, EL736, 및/또는 EL766에 의해 참조될 수도 있기 때문에, EL726을 유실하는 것은 EL716, EL736, EL756, EL766, 및/또는 EL776에서 오류 전파를 야기할 수도 있다(예를 들면, 에러 전파는 도 7b에서 물결무늬로 마킹될 수도 있다).

스케일러블 비디오 코딩 구조가 사용될 수도 있다. 예시적인 픽쳐 시퀀스(791)에서, 비디오 코딩 디바이스는 단일의 레이어 및/또는 베이스 레이어 비디오 코딩에서, 예를 들면, MPEG-2 비디오, H.264 AVC, HEVC, 및/또는 등등에서 EC에 대해 픽쳐 복제를 사용할 수도 있다. 예를 들면, 도 7b에서 묘사되는 베이스 레이어가 단일의 레이어 비트스트림으로서, 또는 다중 레이어 비트스트림에 대한 베이스 레이어로서 인코딩되면, 비디오 코딩 디바이스는, BL721 픽쳐가 유실되는 경우 BL701 및 BL741이 픽쳐 복제에 대한 후보 픽쳐일 수도 있다는 것을 결정할 수도 있다.

도 7b는 BL 및 EL에서의 참조된 픽쳐 유실의 예이다. 픽쳐 EL727 및 병치된 픽쳐 BL722가 유실될 수도 있다. 예시적인 픽쳐 시퀀스(792)에서, 비디오 코딩 디바이스는 유실된 픽쳐 BL722를 구성하기 위해 BL702 및/또는 BL742를 복제할 수도 있다. 비디오 코딩 디바이스는, 유실된 픽쳐 EL727을 구성하기 위해, EL707, EL747, 및/또는 에러 은닉된 BL722를 복제할 수도 있다. EL727이 EL717, EL737, 및/또는 EL767에 의해 참조될 수 있기 때문에, EL727을 유실하는 것은 EL717, EL737, EL757, EL767, 및/또는 EL777에서의 에러 전파를 야기할 수도 있다.

도 7d는, BL 및 EL에 대해 상이한 GOP 사이즈가 존재하는 경우에서의 BL과 EL에서의 참조된 픽쳐 유실의 예이다. BL 및 EL의 GOP는 각각 8 및 4일 수도 있다. EL의 베이스 QP 값은 다른 예와 동일할 수도 있다. 예시적인 픽쳐 시퀀스(793)에서, 비디오 코딩 디바이스는, 예를 들면, SHVC의 테스트 조건에 따라, 상이한 시간 레벨의 픽쳐에 델타 QP를 적용할 수도 있다. 도 7d의 픽쳐 EL748에 대한 QP는, 도 7c의 픽쳐 EL747에 대한 QP보다 더 작을 수도 있다. 비디오 코딩 디바이스는 EC에 대해 도 7d의 EL748을 선택할 수도 있다.

도 7e는 I-P-P-P 코딩 구조를 갖는 픽쳐 유실의 예의 도면이다. 픽쳐 EL729가 유실되면, 픽쳐 EL719 및/또는 픽쳐 BL724는 픽쳐 복제에 대한 후보일 수도 있다. 예시적인 픽쳐 시퀀스(794)에서, 비디오 코딩 디바이스는, 유실된 픽쳐 EL729를 보상하기 위해 픽쳐 EL719 및/또는 픽쳐 BL724를 복제할 수도 있다.

도 7a 내지 도 7e의 예에서, 비디오 코딩 디바이스(예를 들면, 비디오 디코딩 디바이스)가, 누락 픽쳐(missing picture)에 대해 최소 디스패리티(예를 들면, 절대 차의 합(SAD))를 갖는 픽쳐를 복제하면, 에러 전파는 감소될 수도 있다. 비디오 코딩 디바이스는, 에러가 발생하기 쉬운 네트워크를 통한 비디오 스트리밍을 위해 유실된 픽쳐와의 최소 디스패리티를 갖는 픽쳐를 선택할 수도 있다.

비디오 코딩 디바이스는 스케일러블 비디오 코딩(SVC)에 대해 EC 모드를 사용할 수도 있다. 예를 들면, EL의 픽쳐가 송신 동안 손상되면, 비디오 코딩 디바이스, 예컨대 비디오 디코딩 디바이스는, 유실된 EL 픽쳐를 구성하기 위해 BL의 픽쳐를 사용할 수도 있다. EC를 위해, 비디오 코딩 디바이스는 하위 레이어 픽쳐를 사용하여 업샘플링을 적용할 수도 있다. EC를 위해, 비디오 코딩 디바이스는 동일 레이어 픽쳐를 사용하여 모션 보상을 적용할 수도 있다. 예를 들면, 비디오 코딩 디바이스, 예컨대 비디오 디코딩 디바이스는 업샘플링된 하위 레이어 픽쳐를 레이어간 픽쳐(Inter-Layer Picture; ILP) 버퍼에서 준비할 수도 있다. EC 모드는 모션 벡터(motion vector; MV), 코딩 단위(coding unit; CU), 및/또는 매크로 블록(macro block; MB) 레벨 모션 보상 및 복제를 활용할 수도 있다. EC 모드는, 픽쳐 복제(PC), 시간적 다이렉트(TD), 모션 복제(MC), 베이스 레이어 스킵(BLSkip; 모션 & 잔차 업샘플링), 및/또는 재구성된 BL 업샘플링(RU)을 포함하지만, 이들로 제한되지는 않는다.

도 8은 픽쳐 복제의 예의 도면이다. 예시적인 픽쳐 시퀀스(800)에서, 비디오 디코딩 디바이스는 픽쳐 복제(PC) 에러 은닉을 활용하도록 구성될 수도 있다. PC 에러 은닉에서, 비디오 코딩 디바이스는, 픽쳐802로부터 및/또는 참조 픽쳐 리스트(reference picture list; RPL)의 픽쳐842로부터 은닉 픽쳐를 복제할 수도 있다.

도 9는 B 픽쳐에 대한 시간적 다이렉트의 예의 도면이다. 비디오 코딩 디바이스는 B 픽쳐에 대해 시간적 다이렉트(TD) 에러 은닉을 활용할 수도 있다. TD(예를 들면, 시간적 다이렉트 MV 생성)는 인트라 레이어 EC 모드일 수도 있다. 코딩 단위(CU)(예를 들면, MB)는, 예를 들면, 도 9에서 도시되는 바와 같이, 동일한 레이어에서 병치된 CU(예를 들면, 또는 MB)로부터 MV를 수신할 수도 있고/있거나 그 MV를 스케일링할 수도 있다. 예를 들면, MV는 픽쳐의 시간적 거리에 따라 스케일링될 수도 있다. 예를 들면, 비디오 코딩 디바이스는, 픽쳐 순서 카운트(picture order count; POC) 차이(예를 들면, 시간적 차이)를 사용하는 것에 의해, MV_C(930)로부터 MV0(910) 및 MV1(920)를 스케일링할 수도 있다. 비디오 코딩 디바이스는 SVC의 레이어(예를 들면, 각각의 레이어)에서 B 픽쳐에 대해 TD를 사용할 수도 있다.

비디오 코딩 디바이스는 에러 은닉을 위해 모션 복제(MC)를 활용할 수도 있다. 비디오 코딩 디바이스는, 예를 들면, 유실된 픽쳐에 대해 TD 에러 은닉이 적용가능한 경우, 픽쳐(예를 들면, I 및/또는 P 픽쳐)에 대해 MC를 적용할 수도 있다. PC 에러 은닉은, 예를 들면, GOP 사이즈에 대한 두 키 픽쳐(key picture)의 거리로 인해, 유실된 키 픽쳐에 대해서는 불충분할 수도 있다. MC 에러 은닉에서, 비디오 코딩 디바이스는, 유실된 픽쳐에 대해 더 정확하게 은닉된 픽쳐를 얻기 위해, 이전의 키 픽쳐(들)의 모션 필드를 복제하여 하나 이상의 MV를 재생성할 수도 있다. 비디오 코딩 디바이스는 베이스 레이어 키 픽쳐의 유실을 만회하기 위해 MC를 사용할 수도 있다. 비디오 코딩 디바이스는, 자신의 베이스 레이어 픽쳐가 유실되는 향상 레이어의 픽쳐의 유실을 만회하기 위해 MC를 사용할 수도 있다.

비디오 코딩 디바이스는 에러 은닉을 위해 베이스 레이어 스킵(BLSkip; 모션 & 잔차 업샘플링)을 활용할 수도 있다. BLSkip은 레이어간 EC 모드일 수도 있다. BLSkip은 EL의 유실된 픽쳐에 대해 잔차 업샘플링 및/또는 MV 업스케일링을 사용할 수도 있다. 예를 들면, EL의 픽쳐가 유실되면, 비디오 코딩 디바이스는 BL의 잔차를 업샘플링하기 위해 잔차 업샘플링을 사용할 수도 있다. 비디오 코딩 디바이스는 업스케일링된 모션 필드를 사용하여 EL에서 모션 보상을 행할 수도 있다.

비디오 코딩 디바이스는 에러 은닉을 위해, 재구성된 BL 업샘플링(RU)을 활용할 수도 있다. RU에서, 비디오 코딩 디바이스는, EL에서의 유실된 픽쳐에 대해, 재구성된 BL 픽쳐를 업샘플링할 수도 있다.

비디오 코딩 디바이스는 에러 은닉을 위해 BLSkip+TD를 활용할 수도 있다. BL 및 EL 픽쳐가 동시에 유실되면, 비디오 코딩 디바이스는 TD를 사용하여 BL에 대한 MV를 생성할 수도 있다. 비디오 코딩 디바이스는 EL에서의 유실된 픽쳐에 대해 BLSkip을 적용할 수도 있다.

EC를 갖는 디코딩된 비디오 품질은, 예를 들면, 비트레이트, 모션, 장면 전환, 휘도 등등과 같은 비디오 시퀀스의 특성에 따라 변할 수도 있다. 비디오 디코딩 디바이스는, 원래의 픽쳐(예를 들면, 인코딩되지 않은 픽쳐, 예를 들면 YUV 포맷으로 표현됨) 없이는 최상의 EC 모드(예를 들면, 최소 디스패리티를 제공하는 EC 모드)를 선택할 수 없을 수도 있다. 비디오 디코딩 디바이스는, 소정의 유실된 픽쳐에 대해 선택된 EC 모드가 최상의 가능한 선택(예를 들면, 최소 디스패리티를 제공하는 EC 모드)이다는 것을 보장할 수 없을 수도 있다.

비디오 코딩 디바이스는 E-ILR 모드1을 활용할 수도 있다. E-ILR 모드1에서, 비디오 코딩 디바이스는, 예를 들면, 본원에 참조에 의해 그 전체가 통합되는 PCTUS2014/032904에서 설명되는 바와 같이, 모션 보상된 잔차를 업샘플링된 BL 픽쳐와 더하는 것에 의해 향상된 레이어간 참조 픽쳐를 유도할 수도 있다. 예를 들면, E-ILR 모드1에 따른 E-ILR 픽쳐는 비디오 코딩 디바이스에 의해 형성될 수도 있고 (예를 들면, E-ILR 픽쳐를 복제하는 것에 의해) 대응하는 EL 픽쳐의 에러 은닉에 대해 사용될 수도 있다.

비디오 코딩 디바이스는 E-ILR 모드2를 활용할 수도 있다. E-ILR 모드2에서, 비디오 코딩 디바이스는, 예를 들면, 참조에 의해 그 전체가 본원에 통합되는 PCT/US2014/57285에서 설명되는 바와 같이, 향상 레이어 픽쳐를 고역 통과 필터링하고(high pass filtering), 베이스 레이어 픽쳐를 저역 통과 필터링하고(low pass filtering) 두 개의 결과적으로 나타나는 필터링된 픽쳐를 함께 더하는 것에 의해 향상된 레이어간 참조 픽쳐를 유도할 수도 있다. 예를 들면, E-ILR 모드2에 따른 E-ILR 픽쳐는 비디오 코딩 디바이스에 의해 형성될 수도 있고 (예를 들면, E-ILR 픽쳐를 복제하는 것에 의해) 대응하는 EL 픽쳐의 에러 은닉에 대해 사용될 수도 있다.

비디오 코딩 디바이스는, 예를 들면, 표 1에서 나타내어지는 바와 같이, 유실된 픽쳐에 대한 이웃 픽쳐 중 하나 이상을 복제하기 위해 PC를 사용하여 EC 모드를 사용할 수도 있다. 하나의 EL 픽쳐가 유실되는 경우에서, 비디오 코딩 디바이스, 예컨대 도 4에서 도시되는 비디오 디코딩 디바이스는 EC 모드 중 하나 이상을 선택할 수도 있다.

비디오 코딩 디바이스, 예컨대 비디오 디코딩 디바이스는, 비디오 코딩 디바이스가 원래의 픽쳐에 액세스할 수 없으면 복수의 EC 모드 중에서 EC 모드(예를 들면, 최소 디스패리티를 제공하는 EC 모드)를 결정하는 데 어려움을 겪을 수도 있다. 비디오 코딩 디바이스, 예컨대 도 3에서 도시되는 바와 같은 비디오 인코더는, 특정한 손상된 픽쳐(예를 들면, 패킷 유실로 인해 전송 중 손상되었을 수도 있는 픽쳐)에 대해 다양한 EC 모드를 시뮬레이팅할 수도 있다. 비디오 코딩 디바이스는, 특정 픽쳐가 손상되는 경우 비디오 디코딩 디바이스에 의해 사용될 최상의 EC 모드(예를 들면, 최소 디스패리티를 제공하는 EC 모드)를 결정할 수도 있다.

비디오 코딩 디바이스는 비디오 디코더에 대해 하나 이상의 에러 은닉(EC) 모드를 시그널링할 수도 있다. 도 10a는 EC의 예의 도면이다. 도 10b는, 결정된 EC 모드가 비디오 인코딩 디바이스에 의해 비디오 디코딩 디바이스로 시그널링될 수도 있는 경우의 EC 모드 시그널링의 예의 도면이다. 도면부호 1000은 비디오 비트스트림에서 어떠한 EC 모드도 시그널링되지 않는 경우에 결과적으로 나타나는 에러 전파의 예를 예시한다. 도면부호 1050은 비디오 비트스트림에서 EC 모드가 시그널링되는 경우에 결과적으로 나타나는 에러 전파의 예를 예시한다. 1000 및 1050에 의해 나타내어지는 바와 같이, EC 모드가 비디오 비트스트림에서 시그널링되는 경우 에러 전파는 감소된다.

비디오 코딩 디바이스는, 다수의 EC 모드(예를 들면, EC 모드 예측)를 가지고 시뮬레이팅되는 재구성된 YUV와 원래의 입력 YUV 사이의 디스패리티를 계산하기 위해, EC 모드 시그널링을 사용할 수도 있다. 예를 들면, 비디오 인코딩 디바이스(1010)는, 도 3에서 도시되는 바와 같이, 계산된 디스패리티 중에서 EC 모드(예를 들면, 최상의 EC 모드)를 선택할 수도 있다. 비디오 인코딩 디바이스(1010)는, 다른 테스트된 EC 모드와 비교하여 최소량의 디스패리티를 도입하는 EC 모드를 선택할 수도 있다. 선택된 EC 모드는, 본원에서 설명되는 EC 모드 중 하나 이상을 선택할 수도 있지만, 이들로 제한되지는 않는다. 비디오 인코딩 디바이스(1010)는 EC 모드를, 클라이언트의 비디오 디코딩 디바이스(1020)로 시그널링할 수도 있다. 예를 들면, 비디오 인코딩 디바이스(1010)는, 보충 향상 정보(SEI) 메시지를 사용하여, 패킷 헤더에 정보를 배치하여, 별개의 프로토콜을 사용하여, 및/또는 등등으로 EC 모드를 비디오 디코딩 디바이스(1020)로 송신할 수도 있다. EC 모드 정보는 기술분야의 숙련된 자에게 공지되어 있는 임의의 수단을 사용하여 비디오 디코딩 디바이스(1020)로 전달될 수도 있다.

도 10을 참조하면, 픽쳐(1030)는 비디오 인코딩 디바이스(1010)로부터 비디오 디코딩 디바이스(1020)로의 비디오 비트스트림의 송신 동안 유실될 수도 있다. 비디오 인코딩 디바이스(1010)는, 유실시 픽쳐(1030)에 대해 사용할 EC 모드를 결정할 수도 있다. 인코딩 디바이스(1010)는 유실시 픽쳐(1030)에 대해 사용할 선택된 EC 모드를 비디오 비트스트림에서 시그널링할 수도 있다. 비디오 디코딩 디바이스(1020)는 비디오 비트스트림을 수신할 수도 있고, 픽쳐(1030)가 송신 동안 유실되었다는 것을 결정할 수도 있다. 비디오 디코딩 디바이스(1020)는 시그널링된 EC 모드를 유실된 픽쳐(1030)에 적용할 수도 있다. 비디오 인코더(1010)가 EC 모드를 비디오 디코더(1020)로 시그널링하고 비디오 디코더(1020)가 선택된 EC 모드를 유실된 픽쳐에 적용하는 것에 의해, 에러 전파는 감소될 수도 있다.

EC 모드 시그널링은 레이어 기반으로 수행될 수도 있다. 예를 들면, 비디오 스트림의 각각의 레이어에 대해, 비디오 인코딩 디바이스에 의해 EC 모드(예를 들면, 하나의 EC 모드)가 결정되고 및/또는 시그널링될 수도 있다. EC 모드 시그널링은 픽쳐 단위 기반으로 수행될 수도 있다. 예를 들면, 비디오 스트림의 레이어의 하나 이상의 픽쳐(예를 들면, 각각의 픽쳐)에 대해, 비디오 인코딩 디바이스에 의해 EC 모드가 결정되고 및/또는 시그널링될 수도 있다.

비디오 코딩 디바이스는 복수의 픽쳐를 포함하는 비디오 입력을 수신할 수도 있다. 비디오 코딩 디바이스는 비디오 입력에서 복수의 픽쳐로부터 제1 픽쳐를 선택할 수도 있다. 비디오 코딩 디바이스는 제1 픽쳐에 대한 두 개 이상의 에러 은닉 모드를 평가할 수도 있다. 에러 은닉 모드는, 픽쳐 복제(PC), 시간적 다이렉트(TD), 모션 복제(MC), 베이스 레이어 스킵(BLSkip; 모션 & 잔차 업샘플링), 재구성된 BL 업샘플링(RU), E-ILR 모드1, 또는 E-ILR 모드2 중 적어도 두 개를 포함할 수도 있다.

비디오 코딩 디바이스는, 제1 픽쳐에 대한 두 개 이상의 평가된 에러 은닉 모드로부터 에러 은닉 모드를 선택할 수도 있다. 예를 들면, 비디오 코딩 디바이스는, 제1 픽쳐와 제1 픽쳐의 에러 은닉 버전 사이의 디스패리티에 기초하여 에러 은닉 모드를 선택할 수도 있다. 비디오 코딩 디바이스는, 가장 작게 계산된 디스패리티를 갖는 에러 은닉 모드를 선택할 수도 있다. 예를 들면, 디스패리티는 제1 픽쳐와 선택된 EC 모드를 사용하여 결정되는 제1 픽쳐의 에러 은닉 버전 사이의 절대 차의 합(SAD) 또는 구조적 유사도(SSIM) 중 하나 이상에 따라 측정될 수도 있다. 디스패리티는 제1 픽쳐의 하나 이상의 컬러 성분을 사용하여 측정될 수도 있다.

비디오 코딩 디바이스는 제1 픽쳐에 대해 선택된 에러 은닉 모드를 비디오 비트스트림에서 시그널링할 수도 있다. 예를 들면, 비디오 코딩 디바이스는 에러 은닉 모드를, 비디오 비트스트림의 보충 향상 정보(SEI) 메시지, MPEG 미디어 전송(MMT) 전송 패킷, 또는 MMT 에러 은닉 모드(ECM) 메시지에서 시그널링할 수도 있다.

비디오 코딩 디바이스는 제2 픽쳐에 대한 두 개 이상의 에러 은닉 모드를 평가할 수도 있다. 제2 픽쳐에 대해 평가되는 에러 은닉 모드는, 제1 픽쳐에 대해 평가되는 복수의 에러 은닉 모드와 동일할 수도 있거나 또는 상이할 수도 있다. 비디오 코딩 디바이스는 제2 픽쳐에 대한 에러 은닉 모드를 선택할 수도 있다. 비디오 코딩 디바이스는 제2 픽쳐에 대해 선택된 에러 은닉 모드 및 제1 픽쳐에 대해 선택된 에러 은닉 모드를 비디오 비트스트림에서 시그널링할 수도 있다. 제1 픽쳐에 대해 선택된 에러 은닉 모드는 제2 픽쳐에 대해 선택된 에러 은닉 모드와 동일할 수도 있거나 또는 상이할 수도 있다.

비디오 코딩 디바이스는 복수의 픽쳐를 포함하는 비디오 비트스트림을 수신할 수도 있다. 비디오 코딩 디바이스는 제1 픽쳐에 대해 선택된 에러 은닉 모드를 비디오 비트스트림에서 수신할 수도 있다. 비디오 코딩 디바이스는 제1 픽쳐가 유실되었다는 것을 결정할 수도 있다. 비디오 코딩 디바이스는 제1 픽쳐에 대한 에러 은닉을 수행할 수도 있다. 에러 은닉은 제1 픽쳐에 대한 수신된 에러 은닉 모드(예를 들면, 비디오 인코딩 디바이스에 의해 결정되었고 비트스트림에서 시그널링되었던 에러 은닉 모드)를 사용하여 수행될 수도 있다. 비디오 코딩 디바이스는 제2 픽쳐에 대해 선택된 에러 은닉 모드를 비디오 비트스트림에서 수신할 수도 있다. 비디오 코딩 디바이스는 제2 픽쳐가 유실되었다는 것을 결정할 수도 있다. 비디오 코딩 디바이스는 제2 픽쳐에 대한 에러 은닉을 수행할 수도 있다. 에러 은닉은 제2 픽쳐에 대한 수신된 에러 은닉 모드를 사용하여 수행될 수도 있다. 제2 픽쳐에 대한 에러 은닉 모드는 제1 픽쳐에 대한 에러 은닉 모드와 동일할 수도 있거나 또는 상이할 수도 있다.

도 20은, 비디오 코딩 디바이스(예를 들면, 비디오 인코딩 디바이스)에 의해 수행될 수도 있는 예시적인 EC 모드 시그널링의 도면이다. 도 20은, 단일의 레이어 또는 스케일러블 다중 레이어(scalable multilayer)의 비디오에 대한 EC 모드 시그널링에 적용될 수도 있다. 비디오 코딩 디바이스는 레이어 레벨에서 EC 모드 시그널링을 수행하도록 구성될 수도 있다. 예를 들면, 비디오 코딩 디바이스는 비디오 스트림의 하나 이상의(예를 들면, 각각의) 레이어에 대한 EC 모드를 결정할 수도 있고 및/또는 시그널링할 수도 있다. 2001에서, 비디오 코딩 디바이스는 복수의 EC 모드로부터 EC 모드(예를 들면, 후보 EC 모드를 선택할 수도 있다. 비디오 코딩 디바이스는 복수의 픽쳐의 각각의 픽쳐에 대한 두 개 이상의 에러 은닉 모드를 평가할 수도 있다. EC 모드는, 픽쳐 복제(PC), 시간적 다이렉트(TD), 모션 복제(MC), 베이스 레이어 스킵(BLSkip; 모션 & 잔차 업샘플링), 재구성된 BL 업샘플링(RU), E-ILR 모드1, 또는 E-ILR 모드2를 포함할 수도 있지만, 이들로 제한되지는 않는다.

2002에서, 비디오 코딩 디바이스는 선택된 EC 모드에 기초하여 계산을 수행하도록 구성될 수도 있다. 예를 들면, 비디오 코딩 디바이스는, 입력 비디오 스트림의 레이어의 하나 이상의 픽쳐에 대한 선택된 EC 모드의 적용 사이에서의 디스패리티를 비교할 수도 있다. 비디오 코딩 디바이스는, 예를 들면, 이용가능한 EC 모드에 의존하여, 다수의 픽쳐에 대한 계산을 수행할 수도 있다. 비디오 코딩 디바이스는, 유실된 픽쳐를 대체할 때, 최상의 픽쳐 품질을 제공할 수도 있는 EC 모드를 선택할 수도 있다. 비디오 코딩 디바이스는, SAD, SSIM 등등을 활용하는 것에 의해, 어떤 EC 모드가 최상의 픽쳐 품질을 제공할 수도 있는지를 결정할 수도 있다. 비디오 코딩 디바이스는, 제1 픽쳐와 제1 픽쳐의 에러 은닉 버전 사이의 디스패리티에 기초하여 에러 은닉 모드를 선택할 수도 있다. 비디오 코딩 디바이스는, 가장 작게 계산된 디스패리티를 갖는 에러 은닉 모드를 선택할 수도 있다. 예를 들면, 비디오 코딩 디바이스는, 제1 픽쳐의 YUV 성분과 제1 픽쳐의 재구성된 버전의 YUV 성분 사이의 디스패리티에 기초하여 에러 은닉 모드를 선택할 수도 있다. 비디오 코딩 디바이스는, 제1 픽쳐와 선택된 EC 모드를 사용하여 결정되는 제1 픽쳐의 에러 은닉 버전 사이의 절대 차의 합(SAD) 또는 구조적 유사도(SSIM)를 사용하여 디스패리티를 측정할 수도 있다. 예를 들면, 비디오 코딩 디바이스는, 제1 픽쳐의 YUV 성분과 선택된 EC 모드를 사용하여 결정되는 제1 픽쳐의 에러 은닉 버전의 YUV 성분 사이의 절대 차의 합(SAD) 또는 구조적 유사도(SSIM)에 따라 디스패리티를 측정할 수도 있다. 비디오 코딩 디바이스는, Y 성분의 SAD만을 사용하여 또는 Y, U, 및 V 성분의 SAD의 합을 가중하여 디스패리티를 측정할 수도 있다. 비디오 코딩 디바이스는, 가장 작게 계산된 디스패리티를 갖는 에러 은닉 모드를 선택할 수도 있다. 디스패리티는 제1 픽쳐의 하나 이상의 컬러 성분을 사용하여 측정될 수도 있다.

2003에서, 비디오 코딩 디바이스는 2002에서 수행되는 계산의 결과를 결정할 수도 있다. 예를 들면, 비디오 코딩 디바이스는 하나 이상의 EC 모드의 성능 값(performance value)을 결정할 수도 있다. 하나 이상의 EC 모드에 대한 성능 값은, 원래의 신호와 각각의 EC 모드를 사용한 은닉된 신호 사이의 왜곡에 기초할 수도 있다. 왜곡은 평균 제곱 오차(Mean Squared Error), 절대 차의 합 등을 사용하여 계산될 수도 있다. 2004에서, 비디오 코딩 디바이스는, 다른 EC 모드가 존재하는지를 결정할 수도 있다. 다른 EC 모드가 존재하면, 비디오 코딩 디바이스는 2001, 2002, 2003 및 2004를 반복할 수도 있다. 예를 들면, 비디오 코딩 디바이스는, 복수의 EC 모드의 각각의 성능 값을 결정하기 위해, 복수의 EC 모드의 각각에 대해 2001, 2002, 2003, 및 2004를 수행할 수도 있다. 이러한 것에 제한되지는 않지만, 복수의 EC 모드는, 본원에서 설명되는 EC 중 하나 이상(예를 들면, EC 모드의 임의의 조합)을 포함할 수도 있다.

다른 EC 모드가 존재하지 않으면, 2005에서, 비디오 코딩 디바이스는 2003으로부터의 복수의 성능 값을 비교할 수도 있다. 비디오 코딩 디바이스는 2003에서 결정되는 성능 값을 비교할 수도 있다. 비디오 코딩 디바이스는 레이어 및/또는 픽쳐에 대한 최상의 성능 값(예를 들면, 최저 왜곡)을 결정할 수도 있다. EC 모드는, 레이어 및/또는 픽쳐에 대한 최상의 성능 값과 관련되는 EC 모드를 선택할 수도 있다. 비디오 코딩 디바이스는 복수의 픽쳐를 제1 픽쳐 서브셋 및 제2 픽쳐 서브셋으로 분할할 수도 있다. 비디오 코딩 디바이스는, 복수의 픽쳐의 각각의 픽쳐에 대한 두 개 이상의 평가된 에러 은닉 모드로부터 에러 은닉 모드를 선택할 수도 있다. 제1 픽쳐 서브셋에 대해 선택된 에러 은닉 모드는 동일할 수도 있고 제2 픽쳐 서브셋에 대해 선택된 에러 은닉 모드는 동일할 수도 있다. 비디오 코딩 디바이스는 제1 픽쳐 서브셋에 대해 선택된 에러 은닉 모드 및 제2 픽쳐 서브셋에 대해 선택된 에러 은닉 모드를 비디오 비트스트림에서 시그널링할 수도 있다. 다수의 레이어가 존재하면, 비디오 코딩 디바이스는 각각의 픽쳐에 대해 동일한 또는 상이한 EC 모드를 선택할 수도 있다.

2006에서, 비디오 코딩 디바이스는 복수의 결과 중에서 레이어 및/또는 픽쳐에 대한 최상의 EC 모드를 선택할 수도 있다. 2007에서, 비디오 코딩 디바이스는 다른 레이어가 존재하는지를 결정할 수도 있다. 다른 레이어가 존재하면, 2008에서, 비디오 코딩 디바이스는 레이어를 현재 레이어 + 1로 설정할 수도 있고 현재 레이어 + 1에 대해 2001, 2002, 2003, 2004, 2005, 2006, 2007을 반복할 수도 있다. 비디오 코딩 디바이스는, 비디오 입력의 상위 레이어가 존재한다는 것을 결정할 수도 있다. 상위 레이어는 제1 픽쳐를 포함하는 레이어보다 더 상위에 있을 수도 있다. 비디오 코딩 디바이스는 비디오 입력의 상위 레이어에서 복수의 픽쳐로부터 픽쳐를 선택할 수도 있다. 비디오 코딩 디바이스는 상위 레이어의 선택된 픽쳐에 대한 두 개 이상의 에러 은닉 모드를 평가할 수도 있다. 비디오 코딩 디바이스는, 상위 레이어로부터의 선택된 픽쳐에 대한 두 개 이상의 평가된 에러 은닉 모드로부터 에러 은닉 모드를 선택할 수도 있다. 비디오 코딩 디바이스는 상위 레이어의 선택된 픽쳐에 대해 선택된 에러 은닉 모드를 제1 픽쳐에 대한 에러 은닉 모드와 함께 비디오 비트스트림에서 시그널링할 수도 있다.

다른 레이어가 존재하지 않으면, 2009에서, 비디오 코딩 디바이스는 하나 이상의 EC 모드의 표시(indication)를 비디오 비트스트림에서 시그널링할 수도 있다. 각각의 레이어 내에, 복수의 픽쳐가 존재할 수도 있다. 비디오 코딩 디바이스는 레이어에 대한 두 개 이상의 에러 은닉 모드를 평가할 수도 있다. 비디오 코딩 디바이스는 두 개 이상의 에러 은닉 모드로부터 에러 은닉 모드를 선택할 수도 있다. 비디오 코딩 디바이스는 선택된 에러 은닉 모드를 레이어에 대한 비디오 비트스트림에서 시그널링할 수도 있다. 비디오 코딩 디바이스는, 레이어의 각각의 픽쳐의 성능 값을 계산하여 합산하는 것에 의해 하나 이상의 레이어의 성능 값을 계산할 수도 있다. 레이어의 각각의 픽쳐의 성능 값을 계산하여 합산하는 것은, 비디오 코딩 디바이스에서 지연을 야기할 수도 있다. 비디오 코딩 디바이스는, 레이어의 픽쳐 중 선택된 서브셋의 성능 값에 기초하여 각각의 레이어의 성능 값을 계산할 수도 있다. 비디오 코딩 디바이스는 레이어의 제1 하나 이상의 (예를 들면, 시간 도메인에서) 픽쳐가 될 픽쳐의 서브셋을 선택할 수도 있다. 비디오 코딩 디바이스는 보다 최근의 픽쳐에 기초하여 레이어의 성능 값을 주기적으로 업데이트할 수도 있다. 비디오 코딩 디바이스는 업데이트된 성능 결과에 기초하여 레이어의 새로운 EC 모드를 선택할 수도 있다. 비디오 코딩 디바이스는 새로운 EC 모드의 표시를 비트스트림에서 시그널링할 수도 있다.

도 21은 예시적인 EC 모드 시그널링의 도면이다. 도 21은, 단일의 레이어 또는 스케일러블 다중 레이어의 비디오 비트스트림에 대한 적용가능한 EC 모드 시그널링일 수도 있다. 비디오 코딩 디바이스는 픽쳐 레벨에서 EC 모드 시그널링을 수행하도록 구성될 수도 있다. 예를 들면, 비디오 코딩 디바이스는 비디오 스트림의 하나 이상의 레이어(예를 들면, 각각의 레이어)의 하나 이상의 픽쳐(예를 들면, 각각의 픽쳐)에 대한 EC 모드를 결정할 수도 있고 및/또는 시그널링할 수도 있다. 2101에서, 비디오 코딩 디바이스는 EC를 위한 한 픽쳐를 레이어로부터 선택할 수도 있다. EC 모드는, 픽쳐 복제(PC), 시간적 다이렉트(TD), 모션 복제(MC), 베이스 레이어 스킵(BLSkip; 모션 & 잔차 업샘플링), 재구성된 BL 업샘플링(RU), E-ILR 모드1, 또는 E-ILR 모드2를 포함할 수도 있지만, 이들로 제한되지는 않는다. 2102에서, 비디오 코딩 디바이스는 복수의 EC 모드로부터 한 EC를 선택할 수도 있다.

2103에서, 비디오 코딩 디바이스는 계산을 수행하도록 구성될 수도 있다. 예를 들면, 2103에서, 비디오 코딩 디바이스는 2101로부터의 선택된 픽쳐에 EC 모드를 적용할 수도 있다. 예를 들면, 비디오 코딩 디바이스는, 입력 비디오 스트림의 레이어의 하나 이상의 픽쳐에 대한 선택된 EC 모드의 적용 사이에서의 디스패리티를 비교할 수도 있다. 비디오 코딩 디바이스는, 제1 픽쳐(예를 들면, 원래의 제1 픽쳐, 또는 제1 픽쳐의 인코딩된 버전)와 제1 픽쳐의 에러 은닉 버전 사이의 디스패리티에 기초하여 에러 은닉 모드를 선택할 수도 있다. 비디오 코딩 디바이스는, 가장 작게 계산된 디스패리티를 갖는 에러 은닉 모드를 선택할 수도 있다. 예를 들면, 비디오 코딩 디바이스는, 제1 픽쳐의 YUV 성분과 제1 픽쳐의 재구성된 버전의 YUV 성분 사이의 디스패리티에 기초하여 에러 은닉 모드를 선택할 수도 있다. 비디오 코딩 디바이스는, 제1 픽쳐와 선택된 EC 모드를 사용하여 결정되는 제1 픽쳐의 에러 은닉 버전 사이의 절대 차의 합(SAD) 또는 구조적 유사도(SSIM)를 사용하여 디스패리티를 측정할 수도 있다. 예를 들면, 비디오 코딩 디바이스는, 제1 픽쳐의 YUV 성분과 선택된 EC 모드를 사용하여 결정되는 제1 픽쳐의 에러 은닉 버전의 YUV 성분 사이의 절대 차의 합(SAD) 또는 구조적 유사도(SSIM)에 따라 디스패리티를 측정할 수도 있다. 비디오 코딩 디바이스는, Y 성분의 SAD만을 사용하여 또는 Y, U, 및 V 성분의 SAD의 합을 가중하여 디스패리티를 측정할 수도 있다. 비디오 코딩 디바이스는, 가장 작게 계산된 디스패리티를 갖는 에러 은닉 모드를 선택할 수도 있다.

2104에서, 비디오 코딩 디바이스는 2103에서 수행되는 계산의 결과를 결정할 수도 있다. 2105에서, 비디오 코딩 디바이스는, 다른 EC 모드가 존재하는지를 결정할 수도 있다. 다른 EC 모드가 존재하면, 비디오 코딩 디바이스는 복수의 EC 모드에 대해 2102, 2103, 2104 및 2105를 반복할 수도 있다. 다른 EC 모드가 존재하지 않으면, 2106에서, 비디오 코딩 디바이스는 2104로부터의 복수의 결과를 비교할 수도 있다. 2107에서, 비디오 코딩 디바이스는 복수의 결과 중에서 선택된 픽쳐에 대한 최상의 EC 모드를 선택할 수도 있다. 2108에서, 비디오 코딩 디바이스는 다른 픽쳐가 존재하는지를 결정할 수도 있다. 다른 픽쳐가 존재하면, 비디오 코딩 디바이스는 2101, 2102, 2103, 2104, 2105, 2106, 2017 및 2108을 반복할 수도 있다. 2108에서 다른 픽쳐가 존재하지 않으면, 2109에서, 비디오 코딩 디바이스는 다른 레이어가 존재하는지를 결정할 수도 있다. 2109에서 다른 레이어가 존재하면, 비디오 코딩 디바이스는 레이어를 현재 레이어 + 1로 설정할 수도 있고 현재 레이어 + 1에 대해 2101, 2102, 2103, 2104, 2105, 2106, 2017, 2108 및 2109을 반복할 수도 있다. 다른 레이어가 존재하지 않으면, 2111에서, 비디오 코딩 디바이스는 하나 이상의 EC 모드의 표시를 비디오 비트스트림에서 시그널링할 수도 있다.

도 11은 비디오 인코딩 디바이스의 관점으로부터의 예시적인 EC 모드 시그널링의 도면이다. 1101에서, 비디오 인코딩 디바이스는, 비디오 코딩 디바이스, 예컨대 비디오 디코딩 디바이스로 EC 모드를 제공하기 위해 EC 모드 시그널링을 프로세싱할 수도 있다. 1101에서, 비디오 코딩 디바이스는, 다수의 레이어가 이용가능한 경우, 베이스 레이어(예를 들면, 레이어0)로부터 EC 모드 선택을 시작할 수도 있다. 1102에서, 비디오 인코딩 디바이스는, 예를 들면, 최하위 레이어로부터 시작하기 위해, 현재 레이어를 0으로 설정할 수도 있다. 1103에서, 비디오 인코딩 디바이스는 현재 레이어의 원래의 입력 픽쳐를 판독할 수도 있다. 1104에서, 비디오 인코딩 디바이스는 참조 픽쳐 리스트 L0(reference picture list L0; RPL0(0)), 및/또는 그들의 QP로부터 제1 시간적 재구성 픽쳐(temporal reconstructed picture)를 판독할 수도 있다. 1104에서, 비디오 인코딩 디바이스는, L1(RPL1(0)), 및/또는 그들의 QP를 판독할 수도 있다. 1104에서, 비디오 인코딩 디바이스는 프로세싱된 재구성된 참조 레이어(예를 들면, 하위 레이어) 픽쳐를 ILP로부터 판독할 수도 있다.

1105에서, 비디오 인코딩 디바이스는 원래의 입력 픽쳐의 은닉을 위한 최상의 픽쳐를 선택할 수도 있다. 예를 들면, 비디오 인코딩 디바이스는, 예를 들면, 절대 차의 합(SAD) 및/또는 구조적 유사성(Structural Similarity; SSIM)와 같은 왜곡을 측정하는 것에 의해, RPL0(0), RPL1(0) 및/또는 ILP 중에서의 디스패리티를 비교할 수도 있다. 비디오 인코딩 디바이스는 가장 낮은 디스패리티를 갖는 픽쳐를 은닉을 위한 최상의 픽쳐로서 선택할 수도 있다. 비디오 인코딩 디바이스는 1105에서의 비교에서 Y 성분의 SAD를(예를 들면, Y 성분의 SAD만을) 사용할 수도 있다. 예를 들면, 비교는 Y, U, 및/또는 V 성분의 가중치가 부여된 합(weighted sum)을 사용할 수도 있다. 예를 들면, 비디오 인코딩 디바이스는 재구성된 픽쳐를 인코딩하기 위해 사용되는 QP 값을 비교할 수도 있다. 비디오 인코딩 디바이스는 가장 낮은 QP를 갖는 픽쳐를 은닉을 위한 최상의 픽쳐로서 선택할 수도 있다.

1106에서, 비디오 인코딩 디바이스는 참조 레이어가 존재하는지를 결정할 수도 있다. 참조 레이어가 존재하면, 1107에서, 비디오 인코딩 디바이스는 프로세싱된 재구성된 참조 레이어(예를 들면, 하위 레이어) 픽쳐를 ILP로부터 판독할 수도 있다. 참조 레이어가 존재하지 않으면, 비디오 인코딩 디바이스는 프로세싱된 재구성된 참조 레이어(예를 들면, 하위 레이어) 픽쳐를 ILP로부터 판독하지 않을 수도 있다. 참조 레이어가 존재하면 또는 존재하지 않으면, 1108에서, 비디오 인코딩 디바이스는 EC에 대해 최소 디스패리티를 갖는 하나 이상의 픽쳐를 선택할 수도 있다. 1108에서, 비디오 인코딩 디바이스는 최소 디스패리티 픽쳐를 찾기 위해 SAD를 측정할 수도 있다.

1109에서, 비디오 인코딩 디바이스는 상위 레이어가 존재하는지를 결정할 수도 있다. 상위 레이어가 존재하면, 비디오 인코딩 디바이스는 상위 레이어에 대해 1103, 1104, 1105, 1106, 1107 및 1108을 반복할 것이다. 예를 들면, 의존 레이어(예를 들면, 상위 레이어)가 이용가능하면, 비디오 인코딩 디바이스는 레이어 번호를 증가시킬 수도 있고 1103, 1104, 1105, 1106, 1107 및 1108을 반복할 수도 있다. 상위 레이어가 존재하지 않으면, 1111에서, 비디오 디코딩 디바이스는 선택된/현재의 EC 모드(예를 들면, 모든 레이어에 대한 EC 모드)를 시그널링할 수도 있다. 선택된/현재의 EC 모드는 하나 이상의 EC 모드를 포함할 수도 있다. 선택된/현재의 EC 모드는 둘 이상의 EC 모드의 세트일 수도 있다. 상위 레이어가 존재하지 않으면, 1110에서, 비디오 인코딩 디바이스는 이전의 EC 모드와는 상이한 EC 모드가 존재하는지를 결정할 수도 있다. 1111에서, 비디오 인코딩 디바이스는, 결정된 EC 모드가 이전의 EC 모드와 상이하면, 선택된/현재의 EC 모드를 시그널링할 수도 있다.

도 12는 비디오 디코딩 디바이스의 관점으로부터의 예시적인 EC 모드 시그널링의 도면이다. 비디오 디코딩 디바이스는 EC 모드 시그널링을 프로세싱할 수도 있다. 비디오 디코딩 디바이스는 단일 레이어의 또는 스케일러블 다중 레이어의 비디오 비트스트림을 수신할 수도 있다. 1201에서, 비디오 디코딩 디바이스는 시그널링되는 EC 모드를 결정하기 위해 EC 모듈을 시작할 수도 있다. 1201에서, 비디오 디코딩 디바이스는 EC 모드 프로세싱을 시작할 수도 있다. 이것은 비트스트림이 디코딩되고 있는 동안 또는 이후에 수행될 수도 있다. 1201에서, 비디오 디코딩 디바이스는, 비디오 인코딩 디바이스에 의해 생성되었던 시그널링된 EC 모드를 판독할 수도 있다.

1202에서, 비디오 디코딩 디바이스는, 예를 들면, 비디오 디코딩 디바이스가 가장 낮은 레이어에서 시작할 수도 있도록, 현재 레이어를 0과 동일하게 설정할 수도 있다. 비디오 코딩 디바이스는 한 레이어를, 비디오 코딩 디바이스가 그 레이어로부터 시작하는 경우, 완전히 디코딩하지 않을 수도 있다. 최저 레이어가 0이 아니면, 비디오 디코딩 디바이스는 1202에서 현재 레이어를 최저 레이어와 동일하게 설정할 수도 있다. 1202에서, 비디오 디코딩 디바이스는 EC 모드를 디폴트 EC 모드로 설정할 수도 있다. 예를 들면, 비디오 디코딩 디바이스가 EC 모드 신호를 수신하지 않고 픽쳐가 유실되면, 비디오 디코딩은 디폴트 EC 모드를 유실 픽쳐에 적용할 수도 있다. 디폴트 EC 모드는 본원에서 설명되는 EC 모드 중 하나일 수도 있다. 디폴트 EC 모드는, 픽쳐 복제(PC), 시간적 다이렉트(TD), 모션 복제(MC), 베이스 레이어 스킵(BLSkip; 모션 & 잔차 업샘플링), 재구성된 BL 업샘플링(RU), E-ILR 모드1, 또는 E-ILR 모드2 중 적어도 하나일 수도 있다.

1203에서, 비디오 디코딩 디바이스는 픽쳐가 유실되었는지를 결정할 수도 있다. 픽쳐가 유실되지 않았다면, 1207에서, 비디오 디코딩 디바이스는 상위 레이어가 존재하는지를 결정할 수도 있다. 상위 레이어가 존재하면, 비디오 디코딩 디바이스는 1203으로 진행할 수도 있다. 픽쳐가 유실되지 않았다면, 비디오 디코딩 디바이스는, 1204에서, EC 모드가 비디오 비트스트림에서 수신되었는지를 결정할 수도 있다. EC 모드는 (예를 들면, 레이어 기반 EC 모드 시그널링이 사용되면) 현재 레이어에 대해 적용가능할 수도 있고 및/또는 EC 모드는 (예를 들면, 픽쳐 기반 EC 모드 시그널링이 사용되면) 현재 픽쳐에 대해 적용가능할 수도 있다. 시그널링된 EC 모드가 존재하면 그리고 픽쳐가 유실되었다면, 1205에서, 비디오 디코딩 디바이스는 시그널링된 EC 모드로 EC 모드를 선택할 수도 있다. 1206에서, 비디오 디코딩 디바이스는 시그널링된 EC 모드에 따라 (예를 들면 본원에서 설명되는 EC 모드 중 하나에 따른) EC를 행할 수도 있다. 1204에서 어떠한 EC 모드도 시그널링되지 않았다면, 비디오 디코딩 디바이스는 현재 EC 모드(예를 들면, 디폴트 EC 모드)에 따라 EC를 행할 수도 있다. 1207에서, 비디오 디코딩 디바이스는 상위 레이어가 존재하는지를 결정할 수도 있다. 상위 레이어가 존재하면, 비디오 디코딩 디바이스는 1203, 1204, 1205, 1206, 1207 중 하나 이상을 반복할 수도 있다.

비디오 코딩 디바이스는 EC 모드 시그널링의 성능을 평가하기 위해 에러 패턴 파일을 사용할 수도 있다. 에러 패턴 파일은 유실된 POC의 번호를 가질 수도 있다. 비디오 코딩 디바이스, 예컨대 도 4에서 도시되는 바와 같은 비디오 디코딩 디바이스는 POC에 대한 EC를 행할 수도 있다.

픽쳐 레벨에서 그리고 SVC에 대해 설명되었지만, 비디오 코딩 디바이스는 EC 모드 시그널링을 슬라이스 레벨에서 및/또는 단일 레이어의 비디오 코딩에 대해 적용할 수도 있다.

도 13은 유실되는 두 개의 연속하는 픽쳐의 예의 도면이다. 비디오 코딩 디바이스(1300), 예컨대 도 3에서 도시되는 바와 같은 비디오 인코더는, 예를 들면, 도 13에서 도시되는 바와 같이, 유실된 다수의 픽쳐를 시뮬레이팅할 수도 있다. 비디오 인코딩 디바이스(1300)가 시뮬레이션을 가지며 유실된 픽쳐 EL1325에 대해 EL1345를 복제할 것을 결정하면, 비디오 인코딩 디바이스는 유실된 EL1315에 대해 EL1305, BL1312, 및/또는 EL1325를 대체한 EL1345를 가지고 시뮬레이팅할 수도 있다. 비디오 인코딩 디바이스(1300)는 유실된 두 개의 연속하는 픽쳐에 대한 EC 모드를 시뮬레이팅할 수도 있다. 비디오 인코딩 디바이스(1300)는 은닉 모드 및/또는 픽쳐의 조합이 손상되거나 유실되는 경우에 사용될 픽쳐의 최상의 조합을 선택할 수도 있고, 은닉 모드 및/또는 픽쳐의 선택된 조합을 EC 모드 시그널링에서 시그널링할 수도 있다. 비디오 인코딩 디바이스(1300)는 낮은 지연 구성에 대해 시뮬레이팅된 EC 모드를 사용할 수도 있다.

비디오 코딩 디바이스는 EC 모드 시그널링을 스킵할 수도 있다. 도 14는 EC 모드 시그널링의 예의 도면이다. 비디오 코딩 디바이스, 예컨대 도 3에서 도시되는 바와 같은 비디오 인코더는, BL 및/또는 EL에 대한 최적의 EC 모드가, 예를 들면, 도 7c 및/또는 도 7d의 경우에서, 서로 상이하면, 유실된 BL 및/또는 EL 픽쳐에 대한 EC 모드(예를 들면, 최소 디스패리티를 제공하는 EC 모드)(예를 들면, OptEC_SET: BL에 대한 최적의 EC 모드, EL에 대한 최적의 EC 모드)를 시그널링할 수도 있다. BL 및/또는 EL에 대한 최적의 EC 모드는 OptEC_BLn 및 OptEC_ELn으로서 표기될 수도 있는데, 여기서 n은 현재 픽쳐의 POC 번호일 수도 있다. 1401에서, 비디오 인코딩 디바이스는 BL 및/또는 EL에 대한 최적의 EC 모드를 계산할 수도 있다. 1402에서, 비디오 인코딩 디바이스는 불린 옵션(Boolean option)을 판독할 수도 있다. 비디오 인코딩 디바이스는, 예를 들면, 동일한 또는 유사한 EC 모드 시그널링이 현재 픽쳐 및 이전 픽쳐에 의해 공유되면, 불린 옵션을 설정할 수도 있다.

1403에서, 두 개의 EC 모드가 상이하면, 비디오 인코딩 디바이스는 1404에서 각각의 모드를 시그널링할 수도 있다. 1403에서, 두 개의 EC 모드가 동일하면, 비디오 인코딩 디바이스는 1405에서 하나의 모드를 시그널링할 수도 있다. 1406에서, 현재 픽쳐의 선택된 EC 모드가 이전 픽쳐의 EC 모드와 동일하면, 비디오 인코딩 디바이스는, 1407에서, 현재 픽쳐의 최적의 EC 모드를 시그널링하지 않을 수도 있다. 비디오 인코딩 디바이스가 현재 픽쳐의 최적의 EC 모드를 시그널링하지 않으면, 시그널링 오버헤드는 감소될 수도 있다. 1406에서, 현재 픽쳐의 선택된 EC 모드가 이전 픽쳐의 EC 모드와 동일하면, 비디오 인코딩 디바이스는, 1408에서, 현재 픽쳐의 최적의 EC 모드를 시그널링할 수도 있다. 비디오 인코딩 디바이스는 패킷 손실 레이트(packet loss rate; PLR) 및/또는 목표 비트레이트에 따라 시그널링을 변경할 수도 있다. 예를 들면, 비디오 인코딩 디바이스는 불린 플래그(예를 들면, SameSigSkip, 이것은 '동일한 EC 모드 시그널링을 스킵함'을 의미한다)를 사용할 수도 있다. 표 2 및 도 14는, 두 개의 레이어(예를 들면, BL 및 EL)가 존재하는 경우, '동일한 EC 모드 시그널링을 스킵함'을 갖는 EC 모드의 의사 코드 및 시그널링의 예를 나타낸다.

도 15는 예시적인 EC 모드 시그널링 환경의 도면이다. 도면부호 1500은, 비디오 인코더(1502)와 비디오 디코더(1504) 사이에서의 EC 모드 선택 및 시그널링의 예를 예시한다. 비디오 코딩 디바이스, 예컨대 도 3에서 도시되는 비디오 인코딩 디바이스 및/또는 도 4에서 도시되는 비디오 디코딩 디바이스는, 예를 들면, 도 15에서 도시되는 바와 같이, 비디오 인코더 및 디코더(예를 들면, 수정된 SHM 비디오 인코더/디코더)에서 최적의 EC 모드 결정 모듈을 구현할 수도 있다. 비디오 인코더(1502)는 EC 모드를 결정할 수도 있다. EC 모드는, 픽쳐 복제(PC), 시간적 다이렉트(TD), 모션 복제(MC), 베이스 레이어 스킵(BLSkip; 모션 & 잔차 업샘플링), 재구성된 BL 업샘플링(RU), E-ILR 모드1, 또는 E-ILR 모드2일 수도 있다. 비디오 인코더(1502)는 결정된 EC 모드를 비디오 디코더(1504)로 시그널링할 수도 있다. 비디오 디코드(1504)는 비디오 인코더로부터 신호를 수신할 수도 있다. 비디오 디코더(1504)는 EC 모듈을 포함할 수도 있다.

표 3은 예시적인 구현예 및 테스트 조건을 나타낸다.

비디오 코딩 디바이스, 예컨대 비디오 인코딩 디바이스(예를 들면, SHM 2.0 인코더)는 최적의 EC 모드를 계산하도록 수정될 수도 있다. 비디오 코딩 디바이스, 예컨대 비디오 디코딩 디바이스(예를 들면, SHM 2.0 디코더)는 EC 모듈을 제공하도록 수정될 수도 있다. 표 4는 자신의 내부 표를 갖는 수정된 인코더의 예를 나타낸다. 비디오 인코딩 디바이스는 원래의 YUV(Org.)와 이웃한 참조 픽쳐(모드0: 이전 픽쳐(Picprev), 모드1: 다음 픽쳐(Picnext), 모드2: 업샘플링된 BL 픽쳐(PicBLup), 등등) 사이의 평균 차이를 계산할 수도 있다. 비디오 인코딩 디바이스는 최적의 EC 모드를 결정할 수도 있다. 비디오 인코딩 디바이스는 최적의 EC 모드를 시그널링할 수도 있다.

비디오 코딩 디바이스는 비참조 픽쳐 및/또는 참조 픽쳐에 대한 픽쳐 드랍 테스트(picture dropping test)를 수행할 수도 있다. 표 5는 EC 모드 사이의 PSNR 이득의 예를 나타낸다. 테스트 시퀀스에서, 제안된 EC 모드(예를 들면, EC4)의 최대 평균 PSNR 이득은, 유실된 픽쳐에서 4.94 dB 내지 8.60 dB 사이에 있을 수도 있고, 한편 최소 평균 Y-PNSR 이득은 2배의 공간적 스케일러빌러티에서 대략적으로 0.55 dB일 수도 있다. EL(예를 들면, EC0, EC1, 및 EC3)로부터의 균일한 픽쳐 복제는 최적의 EC 모드가 아니었을 수도 있다. 최소 이득은 EC 모드2(EC2)로부터 유래했고, 그것은 업샘플링된 병치된 재구성 BL 픽쳐가 최소의 디스패리티를 가지고 대부분 선택되었기 때문이었다.

표 6은 EC 모드 사이의 평균 PSNR 이득의 예를 나타낸다. 비디오 코딩 디바이스는 비디오 회의 시나리오를 테스트하기 위해 테스트 시퀀스를 사용할 수도 있다. 시퀀스 A에 대한 최적의 EC 모드가 더 적은 수의 EC 모드2를 구비할 수도 있기 때문에, 평균 PSNR 이득은 표 5에서의 이득보다 더 클 수도 있다. 제안된 ED 모드와 EC 모드2의 비교는 표 6에서보다 더 작은 수를 나타내었다. PLR 5%가 테스트에 적용되었기 때문에, PSNR 이득을 평균내는 것은 정확한 비교를 제공하지 않을 수도 있다. PSNR 이득은 픽쳐를 유실한 GOP 및/또는 인트라구간에 대해 측정될 수도 있다. 에러 전파가 발견될 수도 있고/있거나 2배의 공간적 스케일러빌러티의 평균 Y-PSNR 이득은 0.81 dB로부터 1.03 dB까지일 수도 있다. 표 5의 PNSR 값이 참조되지 않은 유실 픽쳐(non-referenced lost picture)에 대한 것일 수도 있지만, 표 7의 PSNR 값은 에러 전파를 갖는 인트라구간 및 GOP 기간의 평균 수일 수도 있다. 표 7에서의 PSNR 값은 표 5에서의 값보다 더 크지 않을 수도 있다.

도 16은 에러 패턴 파일 생성의 예의 도면이다. 도면부호 1650은 에러 패턴 파일에서의 유실되는 픽쳐(1604)를 예시한다. 1650에서 나타내어지는 바와 같이, 픽쳐(1604)는 베이스 레이어에서 존재할 수도 있다. 픽쳐(1604)는 향상 레이어에서 유실된다. 테스트 시퀀스를 사용하여, 비디오 코딩 디바이스는 에러 패턴 파일을 생성할 수도 있다. 에러 패턴 파일에서는, 제2 시간 레벨(예를 들면, POC4)에 위치되는 두 개의 픽쳐는 40 개의 픽쳐마다 드랍될 수도 있고, PLR은 (예를 들면, 도 16에서와 같이) 약 4%일 수도 있다.

표 6은 참조 픽쳐에 대한 EC 모드(예를 들면, EC 모드2는 제외) 사이의 평균 Y-PSNR 이득의 예를 도시한다. 평균 품질 향상은 PSNR에서 대략 2 dB일 수도 있다.

도 17은 EC 모드2 및 EC 모드4 사이의 예시적인 PSNR 비교의 도면이다. 예에서, POC68 및 POC84는 에러 패턴 파일에 따라 드랍될 수도 있다. 도 17에서 도시되는 바와 같이, 제안된 EC 모드(예를 들면, EC 모드4; EC4)는, POC68 및 POC84가 드랍되었던 경우의 EC 모드2와 비교하여 더 나은 PSNR을 나타낼 수도 있다. 이 때 참조된 픽쳐가 드랍되었기 때문에, 에러 전파가 존재했고, 이것은 후속하는 픽쳐 품질을 저하시켰다. 표 7은 EC4와 EC2 사이의 PSNR 이득의 예를 제공한다.

비디오 코딩 디바이스는, 예를 들면, 비디오 코딩 디바이스가 에러가 발생하기 쉬운 네트워크를 통해 멀티미디어 데이터를 송신하는 경우, 비디오 품질을 향상시키기 위해, EC 모드 시그널링을 활용할 수도 있다. 비디오 코딩 디바이스는 멀티미디어 서버와 클라이언트(예를 들면, WTRU) 사이에서 제안된 EC 모드를 시그널링할 수도 있다. 예를 들면, 비디오 표준(예를 들면, AVC, SVC, HEVC, 및 SHVC)에서 정의될 수도 있는 SEI 메시지는 EC 모드를 반송할(carry) 수도 있다. 비디오 코딩 디바이스는, MMT 패킷 헤더 및/또는 MMT 메시지 프로토콜을 사용하여 EC 모드를 시그널링할 수도 있다. 비디오 코딩 디바이스는 선택된 POC 번호(들) 및/또는 델타 POC 번호(들)(예를 들면, 현재 POC 빼기 PC에 대해 선택된 POC)를 시그널링할 수도 있다.

비디오 코딩 디바이스는 (예를 들면, HEVC, SHVC, 및/또는 등등에서) EC 모드를 시그널링하기 위해 SEI 메시지를 사용할 수도 있다. 비디오 코딩 디바이스는 SEI 메시지(예를 들면, 새로운 SEI 메시지)를 사용하여 QoS 정보(예를 들면, EC_mode)를 제공할 수도 있다. 비디오 코딩 디바이스는, 예를 들면, 표 8, 표 9, 및/또는 표 10에서 나타내어지는 바와 같이, EC 모드를 SEI 메시지에 설정할 수도 있다. 비디오 코딩 디바이스는 EC_mode를 SEI 페이로드 구문에 추가할 수도 있다. SEI 타입 번호(예를 들면, 140)는, 예를 들면, 표준에 따라 변경될 수도 있다. 비디오 코딩 디바이스는, 멀티미디어 서버와 클라이언트 사이에 일반적인 통신 채널을 제공하기 위해 SEI 메시지 기반 EC 모드 시그널링을 사용할 수도 있다. 애플리케이션 개발자에 의해 개발되는 EC 모드는 유저 정의 EC 모드를 사용할 수도 있다. 예를 들면, 표 10에서, 9에서부터 15까지의 EC 모드는 유저 정의 EC 모드에 대해 사용될 수도 있다. 비디오 코딩 디바이스는 서비스에 대한 EC 모드를 구현할 수도 있다. 비디오 코딩 디바이스는 유저 정의 EC 모드에서 EC 모드를 정의할 수도 있다.

비디오 코딩 디바이스는 MPEG 미디어 전송(MMT)을 사용하여 EC 모드를 시그널링할 수도 있다. 비디오 코딩 디바이스는, MMT 전송 패킷의 구문(예를 들면, 새로운 구문)을 사용하여 QoS 정보(EC_mode)를 제공할 수도 있다. 비디오 코딩 디바이스는, 예를 들면, 표 11에서 나타내어지는 바와 같이, EC 모드를 MMT 전송 패킷에 설정할 수도 있다. 비디오 코딩 디바이스는, 예를 들면, 표 11에서 나타내어지는 바와 같이, EC_mode를 MMT_packet 구문에 추가할 수도 있다. 비디오 코딩 디바이스는 구문 위치를 변경할 수도 있다.

비디오 코딩 디바이스는 MMT 에러 은닉 모드(ECM) 메시지를 사용하여 EC 모드를 시그널링할 수도 있다. 도 18a는 지원가능한 EC 모드를 갖는 멀티캐스트 그룹의 예의 도면이다. 도 18b는 지원가능한 EC 모드를 갖는 예시적인 세션 개시의 도면이다. 비디오 코딩 디바이스는, 멀티미디어 시스템(예를 들면, MPEG-4 시스템, MPEG-H 시스템 MMT, 및/또는 등등)에 의해 정의되는 메시지를 사용하여 서버(1810)와 클라이언트(1820/1822/1824) 사이에서 EC 모드를 시그널링할 수도 있다. 예를 들면, 서버(1810) 및 클라이언트(1820/1822/1824)는 지원가능한 EC 모드(예를 들면, EC 모드 후보)의 정보를 교환할 수도 있다. 클라이언트(1820/1822/1824)는, 예를 들면, 세션 개시 시간에 클라이언트(1820/1822/1824)가 지원할 수 있는 EC 모드의 리스트를 갖는 멀티미디어 서비스를 요청할 수도 있다. 서버(1810)는 수신된 리스트 중에서 지원가능한 EC 모드를 결정할 수도 있다. 서버(1810)가 미디어 컨텐츠를 하나 이상의 가입된 클라이언트에게 멀티캐스팅하고 있으면, 서버(1810)는 이들 클라이언트(1820/1822/1824) 사이에서 공유되는 EC 모드(들)를 선택할 수도 있다. 서버(1810)가 미디어 컨텐츠를 하나의 클라이언트(1824)에게 유니캐스팅하고 있으면, 서버는, (예를 들면, 도 18a 및/또는 도 18b에서 도시되는 바와 같이) 예를 들면, EC 모드 예측의 자신의 계산 복잡도에 따라, EC 모드(예를 들면, 최소 디스패리티를 제공하는 EC 모드)를 선택할 수도 있다. 서버(1810)가 미디어 컨텐츠를 브로드캐스팅하고 있으면, 서버(1810)는 상이한 우선순위를 갖는 다수의 추천된 EC 모드를 생성할 수도 있다. 예를 들면, 서버(1810)가 {2, 3, 1}과 같은 EC 모드의 우선순위의 리스트로서 EC 모드를 생성하면, 생성된 EC 모드는, 클라이언트(1824)가 EC 모드2를, 클라이언트(1824)가 그 모드를 지원하는 경우, 먼저 사용할 수도 있다는 것을 나타낼 수도 있다. 클라이언트(1824)가 EC 모드2를 지원하지 않으면, 서버(1810)에 의해 생성되는 EC 모드의 우선순위의 리스트는 클라이언트(1824)에게 EC 모드3, 및/또는 EC 모드1을 사용할 것을 나타낼 수도 있다.

서버(1810)가 프리인코딩된(pre-encoded) 비디오를 클라이언트(1824)로 송신하면, 서버(1810)는 전체 픽쳐의 EC 모드(예를 들면, 모든 EC 모드)를 세션 개시 시간에 앞서 클라이언트(1824)로 송신할 수도 있다. 서버(1810)는 상이한 타이밍 해상도를 갖는 다수의 픽쳐의 EC 모드를 (예를 들면, 매 GOP, 인트라구간, 및/또는 등등마다) 송신할 수도 있다.

비디오 코딩 디바이스는 핸드쉐이킹 프로세스에 대한 세션 설명 프로토콜(Session Description Protocol; SDP)을 갖는 세션 개시 프로토콜(Session Initiate Protocol; SIP)을 사용할 수도 있다. SDP의 현재 미디어 설명은, 미디어 이름 및/또는 전송 어드레스, 미디어 타이틀, 연결 정보, 대역폭 정보, 암호화, 및/또는 등등을 포함할 수도 있다. 비디오 코딩 디바이스는, 현재 SDP 및/또는 확장 SDP를 통해 EC 모드 후보를 반송할 수도 있다. SDP는, 예를 들면, 표 12에서 나타내어지는 바와 같이, 확장될 수도 있다.

비디오 코딩 디바이스는, 예를 들면, SDP 외에, SIP형 프로토콜(예를 들면, 새로운 SIP형 프로토콜)을 통해 EC 모드 후보를 반송할 수도 있다.

서버는, 예를 들면, 핸드쉐이킹 프로세스 이후에, 하나 이상의 EC 모드를 클라이언트로 전송할 수도 있다. 비디오 코딩 디바이스는 ECM 메시지를 사용할 수도 있다(예를 들면, 새로운 ECM 메시지).

비디오 코딩 디바이스는, MMT 수신 엔티티(예를 들면, 클라이언트에 있는 디코더)에 대한 EC 모드 정보를 제공하기 위해 MMT ECM 메시지를 사용할 수도 있다. 비디오 코딩 디바이스는, 예를 들면, 표 13에서 나타내어지는 바와 같이, 메시지 식별자(예를 들면, message_id)의 값을 할당할 수도 있다. 비디오 코딩 디바이스는, 예를 들면, 표 14에서 나타내어지는 바와 같이, EC 메시지의 시맨틱의 구문을 정의할 수도 있다.

message_id는 ECM 메시지의 ID를 나타낼 수도 있다. 이 필드의 길이는 16비트일 수도 있다.

version은 ECM 메시지의 버전을 나타낼 수도 있다. 이 필드의 길이는 8비트일 수도 있다.

length는, 다음 필드에서부터 시작하여 ECM 메시지의 마지막 바이트까지, 바이트에서 카운트되는 ECM 메시지의 길이를 나타낼 수도 있다. 값 '0'은 이 필드에 대해 유효하지 않을 수도 있다. 이 필드의 길이는 32비트일 수도 있다.

packet_id는 MMT 패킷 헤더에서의 packet_id를 나타낼 수도 있다.

number of frames은 packet_id를 갖는 패킷에서의 비디오 및/또는 오디오 프레임의 수를 나타낼 수도 있다.

number of streams은 비디오 및/또는 오디오의 스트림의 수를 나타낼 수도 있다. 비디오 스트림의 경우, 비디오 코딩 디바이스는, 스케일러블 비디오 코딩에 대한 스케일러블 레이어의 수를 나타내기 위해 스트림의 수를 사용할 수도 있다. 오디오 스트림의 경우, 비디오 코딩 디바이스는, 오디오 채널의 수를 나타내기 위해 스트림의 수를 사용할 수도 있다. 예를 들면, 비디오 픽쳐의 수가 '0'이면, 레이어의 수의 값은 '0'일 수도 있다.

ec_mode는 에러 은닉(EC) 모드를 나타낼 수도 있다. 비디오 코딩 디바이스는, 비디오 및/또는 오디오 디코딩 디바이스에게, 유실된 픽쳐 및/또는 오디오 청크(chunk)를 은닉하기 위한 EC 모드를 통지하기 위해, EC_mode를 사용할 수도 있다. 비디오 및/또는 오디오 디코딩 디바이스는, 다음 ECM 메시지가 도달할 때까지, EC 모드를 사용할 수도 있다.

reserved는 미래의 사용을 위한 예약된 8비트를 나타낼 수도 있다. 예를 들면, 비디오 또는 오디오 코딩 디바이스는 여기에 last_ec_mode를 추가할 수도 있다. 비디오 및/또는 오디오 코딩 디바이스는, 다음 ECM 메시지가 도달할 때까지 사용할 EC_mode를 나타내기 위해 last_ec_mode를 사용할 수도 있다.

비디오 코딩 디바이스는 EC 모드를 시그널링하기 위해 MPEG 그린(Green)을 사용할 수도 있다. 비디오 코딩 디바이스는, 에러가 발생하기 쉬운 환경을 통한 비디오 송신을 향상시키기 위해, EC 모드 시그널링을 사용할 수도 있다. 비디오 코딩 디바이스는, 감지된 비디오 품질을 유지하면서, 예를 들면, 소정의 상황 하에서 디바이스 소비 전력을 감소시키기 위해, MPEG 그린에서 EC 모드 시그널링을 사용할 수도 있다.

IP 멀티미디어 서브시스템에 대한 멀티미디어 전화 서비스(Multimedia Telephony Service for IP Multimedia Subsystem; MTSI) 및/또는 멀티미디어 메시징 서비스(Multimedia Messaging Service; MMS)를 지원하는 클라이언트가 EC 모드 시그널링을 수신할 수도 있다. 비디오 코딩 디바이스는, 비디오 인코딩 디바이스의 계산적 작업부하를 경감시키기 위해, 예를 들면, (예를 들면, 인코더 및/또는 디코더에서) 소비 전력을 감소시키기 위해, 인코더 측에서 소정의 비디오 픽쳐를 스킵할 수도 있다. 픽쳐(들)를 스킵하는 것은 수신기 측에서 품질 저하를 야기할 수도 있다. 비디오 디코딩 디바이스는, 스킵된 픽쳐를 보상하기 위해, 미리 디코딩된 픽쳐를 랜덤하게 복제할 수도 있다. 비디오 코딩 디바이스는, 비디오 디코딩 디바이스가 스킵된 픽쳐를 재구성하기 위해 어떤 특정한 참조 픽쳐를 사용할 수도 있는지를 나타내기 위해, (예를 들면, 표 10에서 규정되는 바와 같은) EC 모드 시그널링을 사용할 수도 있다. 비디오 디코딩 디바이스는 비참조 픽쳐에 대한 디코딩 프로세스를 바이패스할 수도 있고, 예를 들면, 클라이언트 측에서의 배터리가 애플리케이션을 스트리밍함에 있어서 낮다면, 전력을 절약하기 위해, 인코더에 의해 시그널링되는 EC 모드를 적용할 수도 있다. 비디오 코딩 디바이스는, 예를 들면, MPEG 그린에서 포함될 수도 있는 프레임에서의 최대 픽셀 강도, 포화 파라미터, 전력 절약 요청, 등등과 같은 파라미터와 함께, EC 모드 시그널링을, 규범적인 그린 메타데이터(normative green metadata)로서 사용할 수도 있다.

도 19a는 하나 이상의 개시된 실시형태가 구현될 수도 있는 예시적인 통신 시스템(1900)의 도면이다. 통신 시스템(1900)은 보이스, 데이터, 비디오, 메시징, 브로드캐스트 등등과 같은 컨텐츠를 다수의 무선 유저에게 제공하는 다중 액세스 시스템일 수도 있다. 통신 시스템(1900)은, 무선 대역폭을 포함하는 시스템 리소스의 공유를 통해 다수의 무선 유저가 이러한 컨텐츠에 액세스하는 것을 가능하게 할 수도 있다. 예를 들면, 통신 시스템(1900)은, 코드 분할 다중 액세스(code division multiple access; CDMA), 시분할 다중 액세스(time division multiple access; TDMA), 주파수 분할 다중 액세스(frequency division multiple access; FDMA), 직교 FDMA(orthogonal FDMA; OFDMA), 싱글 캐리어 FDMA(single-carrier FDMA; SC-FDMA) 등등과 같은 하나 이상의 채널 액세스 방법을 활용할 수도 있다.

도 19a에서 도시되는 바와 같이, 통신 시스템(1900)은 무선 송수신 유닛(WTRU)(1902a, 1902b, 1902c, 및/또는 1902d)(일반적으로 또는 일괄적으로 WTRU(102)로 칭해질 수도 있음), 무선 액세스 네트워크(radio access network; RAN)(1903/1904/1905), 코어 네트워크(1906/1907/1909), 공중 교환 전화망(public switched telephone network; PSTN)(1908), 인터넷(1910), 및 기타 네트워크(1912)를 포함할 수도 있지만, 개시된 실시형태는 임의의 수의 WTRU, 기지국(base station), 네트워크, 및/또는 네트워크 엘리먼트를 고려한다는 것을 알 수 있을 것이다. WTRU(1902a, 1902b, 1902c, 1902d)의 각각은 무선 환경에서 동작하도록 및/또는 통신하도록 구성되는 임의의 타입의 디바이스일 수도 있다. 예로서, WTRU(1902a, 1902b, 1902c, 1902d)는 무선 신호를 송신하도록 및/또는 수신하도록 구성될 수도 있고 유저 기기(user equipment; UE), 이동국(mobile station), 고정식 또는 이동식 가입자 유닛, 페이저, 셀룰러 전화, 개인 휴대형 정보 단말기(personal digital assistant; PDA), 스마트폰, 랩탑, 넷북, 퍼스널 컴퓨터, 무선 센서, 가전기기(consumer electronics) 등등을 포함할 수도 있다.

통신 시스템(1900)은 기지국(1914a) 및 기지국(1914b)을 또한 포함할 수도 있다. 기지국(1914a, 1914b)의 각각은, 코어 네트워크(1906/1907/1909), 인터넷(1910), 및/또는 기타 네트워크(1912)와 같은 하나 이상의 통신 네트워크에 대한 액세스를 용이하게 하기 위해 WTRU(1902a, 1902b, 1902c, 1902d) 중 적어도 하나와 무선으로 인터페이싱하도록 구성되는 임의의 타입의 디바이스일 수도 있다. 예로서, 기지국(1914a, 1914b)은 기지국 트랜스시버(base transceiver station; BTS), 노드 B, eNode B, 홈 노드 B, 홈 eNode B, 사이트 컨트롤러, 액세스 포인트(AP), 무선 라우터 등등일 수도 있다. 기지국(1914a, 1914b) 각각이 단일의 엘리먼트로서 묘사되지만, 기지국(1914a, 1914b)은 임의의 수의 인터커넥트된(interconnected) 기지국 및/또는 네트워크 엘리먼트를 포함할 수도 있다는 것을 알 수 있을 것이다.

기지국(1914a)은, 기지국 컨트롤러(base station controller; BSC), 무선 네트워크 컨트롤러(radio network controller; RNC), 중계 노드 등등과 같은 다른 기지국 및/또는 네트워크 엘리먼트(도시되지 않음)를 또한 포함할 수도 있는 RAN(1903/1904/1905)의 일부일 수도 있다. 기지국(1914a) 및/또는 기지국(1914b)은 특정 지리적 영역 내에서 무선 신호를 송신 및/또는 수신하도록 구성될 수도 있으며, 셀(도시되지 않음)로서 칭해질 수도 있다. 셀은 셀 섹터로 더 분할될 수도 있다. 예를 들면, 기지국(1914a)과 관련되는 셀은 세 개의 섹터로 분할될 수도 있다. 따라서, 일 실시형태에서, 기지국(1914a)은 세 개의 트랜스시버, 즉, 셀의 각각의 섹터에 대해 하나의 트랜스시버를 포함할 수도 있다. 다른 실시형태에서, 기지국(1914a)은 다중입력 다중출력(multiple-input multiple-output; MIMO) 기술을 활용할 수도 있고, 따라서, 셀의 각각의 섹터에 대해 다수의 트랜스시버를 활용할 수도 있다.

기지국(1914a, 1914b)은, 임의의 적절한 무선 통신 링크(예를 들면, 무선 주파수(radio frequency; RF), 마이크로파, 적외선(infrared; IR), 자외선(ultraviolet; UV), 가시광 등등)일 수도 있는 무선 인터페이스(air interface; 1915/1916/1917)를 통해 WTRU(1902a, 1902b, 1902c, 1902d) 중 하나 이상과 통신할 수도 있다. 무선 인터페이스(1915/1916/1917)는 임의의 적절한 무선 액세스 기술(radio access technology; RAT)을 사용하여 확립될 수도 있다.

더 구체적으로는, 위에서 언급된 바와 같이, 통신 시스템(1900)은 다중 액세스 시스템일 수도 있고 CDMA, TDAM, FDAM, OFDMA, SC-FDMA 등등과 같은 하나 이상의 채널 액세스 방식을 활용할 수도 있다. 예를 들면, RAN(1903/1904/1905) 내의 기지국(1914a) 및 WTRU(1902a, 1902b, 1902c)는, 광대역 CDMA(wideband CDMA; WCDMA)를 사용하여 무선 인터페이스(1915/1916/1917)를 확립할 수도 있는, 범용 이동 통신 시스템(Universal Mobile Telecommunications System; UMTS) 지상 무선 액세스(Terrestrial Radio Access)(UTRA)와 같은 무선 기술을 구현할 수도 있다. WCDMA는 고속 패킷 액세스(High-Speed Packet Access; HSPA) 및/또는 진화된 HSPA(Evolved HSPA; HSPA+)와 같은 통신 프로토콜을 포함할 수도 있다. HSPA는 고속 다운링크 패킷 액세스(High-Speed Downlink Packet Access; HSDPA) 및/또는 고속 업링크 패킷 액세스(High-Speed Uplink Packet Access; HSUPA)를 포함할 수도 있다.

다른 실시형태에서, 기지국(1914a) 및 WTRU(1902a, 1902b, 1902c)는, 롱 텀 에볼루션(LTE) 및/또는 LTE-어드밴스드(LTE- Advanced; LTE-A)를 사용하여 무선 인터페이스(1915/1916/1917)를 확립할 수도 있는 진화된 UMTS 지상 무선 액세스(Evolved UMTS Terrestrial Radio Access; E-UTRA)와 같은 무선 기술을 구현할 수도 있다.

일 실시형태에서, 기지국(1914a) 및 WTRU(1902a, 1902b, 1902c)는, IEEE 802.16(즉, 와이맥스(Worldwide Interoperability for Microwave Access; WiMAX)), CDMA2000, CDMA2000 1X, CDMA2000 EV-DO, IS-2000(Interim Standard 2000), IS-95(Interim Standard 95), IS-856(Interim Standard 856), 이동 통신용 글로벌 시스템(Global System for Mobile communications; GSM), EDGE(Enhanced Data rates for GSM Evolution), GSM EDGE(GERAN) 등등과 같은 무선 기술을 구현할 수도 있다.

도 19a의 기지국(1914b)은, 예를 들면, 무선 라우터, 홈 노드 B, 홈 eNode B, 또는 액세스 포인트일 수도 있고, 사업장, 가정, 차량, 캠퍼스 등등과 같은 국소화된 영역에서 무선 연결성을 용이하게 하기 위해 임의의 적절한 RAT를 활용할 수도 있다. 일 실시형태에서, 기지국(1914b) 및 WTRU(1902c, 1902d)는 무선 근거리 통신망(wireless local area network; WLAN)을 확립하기 위해 IEEE 802.11과 같은 무선 기술을 구현할 수도 있다. 다른 실시형태에서, 기지국(1914b) 및 WTRU(1902c, 1902d)는 무선 사설 영역 네트워크(wireless personal area network; WPAN)를 확립하기 위해 IEEE 802.15와 같은 무선 기술을 구현할 수도 있다. 또 다른 실시형태에서, 기지국(1914b) 및 WTRU(1902c, 1902d)는 피코셀 또는 펨토셀을 확립하기 위해 셀룰러 기반 RAT(예를 들면, WCDMA, CDMA2000, GSM, LTE, LTE-A 등등)를 활용할 수도 있다. 도 19a에서 도시되는 바와 같이, 기지국(1914b)은 인터넷(110)에 대한 직접 연결을 구비할 수도 있다. 따라서, 기지국(1914b)은 코어 네트워크(1906/1907/1909)를 통해 인터넷(1910)에 액세스할 필요가 없을 수도 있다.

RAN(1903/1904/1905)은, WTRU(1902a, 1902b, 1902c, 1902d) 중 하나 이상으로 보이스, 데이터, 애플리케이션, 및/또는 인터넷 전화 프로토콜(voice over internet protocol; VoIP) 서비스를 제공하도록 구성되는 임의의 타입의 네트워크일 수도 있는 코어 네트워크(1906/1907/1909)와 통신할 수도 있다. 예를 들면, 코어 네트워크(1906/1907/1909)는 호 제어(call control), 과금 서비스, 모바일 위치 기반 서비스, 선불 통화, 인터넷 연결성, 비디오 분배 등등을 제공할 수도 있고 및/또는 유저 인증과 같은 하이 레벨의 보안 기능을 수행할 수도 있다. 도 19a에서 도시되지는 않지만, RAN(1903/1904/1905) 및/또는 코어 네트워크(1906/1907/1909)는, RAN(1903/1904/1905)과 동일한 RAT 또는 상이한 RAT를 활용하는 다른 RAN과 직접 또는 간접 통신할 수도 있다는 것을 알 수 있을 것이다. 예를 들면, E-UTRA 무선 기술을 활용할 수도 있는 RAN(1903/1904/1905)에 연결되는 것 외에, 코어 네트워크(1906/1907/1909)는 GSM 무선 기술을 활용하는 다른 RAN(도시되지 않음)과 또한 통신할 수도 있다.

코어 네트워크(1906/1907/1909)는 WTRU(1902a, 1902b, 1902c, 1902d)가 PSTN(1908), 인터넷(1910), 및/또는 기타 네트워크(1912)에 액세스하는 데 게이트웨이로서 또한 기능할 수도 있다. PSTN(1908)은, 기존 전화 서비스(plain old telephone service; POTS)를 제공하는 회선 교환 전화 네트워크를 포함할 수도 있다. 인터넷(1910)은, TCP/IP(transmission control protocol/internet protocol; 전송 제어 프로토콜/인터넷 프로토콜) 일군(suite)에서의 TCP, 유저 데이터그램 프로토콜(user datagram protocol; UDP) 및 IP와 같은 공통 통신 프로토콜을 사용하는 인터커넥트된 컴퓨터 네트워크 및 디바이스의 글로벌 시스템을 포함할 수도 있다. 네트워크(1912)는 다른 서비스 공급자에 의해 소유되는 및/또는 다른 서비스 공급자에 의해 운영되는 유선 또는 무선 통신 네트워크를 포함할 수도 있다. 예를 들면, 네트워크(1912)는, RAN(1903/19904/105)과 동일한 RAT 또는 상이한 RAT를 활용할 수도 있는 하나 이상의 RAN에 연결되는 다른 코어 네트워크를 포함할 수도 있다.

통신 시스템(1900)에서의 WTRU(1902a, 1902b, 1902c, 1902d) 중 몇몇 또는 전체는 다중 모드 성능을 포함할 수도 있다, 즉, WTRU(1902a, 1902b, 1902c, 1902d)는 상이한 무선 링크를 통해 상이한 무선 네트워크와 통신하기 위한 다수의 트랜스시버를 포함할 수도 있다. 예를 들면, 도 19a에서 도시되는 WTRU(1902c)는, 셀룰러 기반 무선 기술을 활용할 수도 있는 기지국(1914a)과, 그리고 IEEE 802 무선 기술을 활용할 수도 있는 기지국(1914b)과 통신하도록 구성될 수도 있다.

도 19b는 예시적인 WTRU(1902)의 시스템 도면이다. 도 19b에서 도시되는 바와 같이, WTRU(1902)는 프로세서(1918), 트랜스시버(1920), 송신/수신 엘리먼트(1922), 스피커/마이크(1924), 키패드(1926), 디스플레이/터치패드(1928), 비착탈식 메모리(1930), 착탈식 메모리(1932), 전원(1934), 글로벌 포지셔닝 시스템(global positioning system; GPS) 칩셋(1936), 및 기타 주변장치(1938)를 포함할 수도 있다. WTRU(1902)는 한 실시형태와 여전히 일치하면서 상기 엘리먼트의 임의의 부조합을 포함할 수도 있다는 것을 알 수 있을 것이다. 또한, 실시형태는, 기지국(1914a 및 1914b), 및/또는, 다른 것들 중에서도, 기지국 트랜스시버(BTS), 노드 B, 사이트 컨트롤러, 액세스 포인트(AP), 홈 노드 B, 진화형 홈 노드 B(eNodeB), 홈 진화형 노드 B(home evolved node-B; HeNB), 홈 진화형 노드 B 게이트웨이, 프록시 노드와 같은 그러나 이들에 한정되지는 않는 기지국(1914a 및 1914b)이 나타낼 수도 있는 노드가 도 19b에서 묘사되고 본원에서 설명되는 엘리먼트 중 일부 또는 그 엘리먼트의 각각을 포함할 수도 있다는 것을 고려한다.

프로세서(1918)는 범용 프로세서, 특수 목적의 프로세서, 종래의 프로세서, 디지털 신호 프로세서(digital signal processor; DSP), 복수의 마이크로프로세서, DSP 코어와 관련하는 하나 이상의 마이크로프로세서, 컨트롤러, 마이크로컨트롤러, 주문형 반도체(Application Specific Integrated Circuit; ASIC), 필드 프로그래머블 게이트 어레이(Field Programmable Gate Array; FPGA) 회로, 임의의 다른 타입의 집적 회로(integrated circuit; IC), 상태 머신 등등일 수도 있다. 프로세서(1918)는 신호 코딩, 데이터 프로세싱, 전력 제어, 입/출력 프로세싱, 및/또는 WTRU(1902)가 무선 환경에서 동작하는 것을 가능하게 하는 임의의 다른 기능성(functionality)을 수행할 수도 있다. 프로세서(1918)는, 송신/수신 엘리먼트(1922)에 커플링될 수도 있는 트랜스시버(1920)에 커플링될 수도 있다. 도 19b는 프로세서(1918)와 트랜스시버(1918)를 별개의 컴포넌트로서 묘사하지만, 프로세서(1920)와 트랜스시버(1920)는 전자적 패키지 또는 칩에 함께 집적될 수도 있다는 것이 이해될 것이다.

송신/수신 엘리먼트(1922)는 무선 인터페이스(1915/1916/1917)를 통해 기지국(예를 들면, 기지국(1914a))으로 신호를 송신하거나, 또는 그 기지국으로부터 신호를 수신하도록 구성될 수도 있다. 예를 들면, 일 실시형태에서, 송신/수신 엘리먼트(1922)는 RF 신호를 송신 및/또는 수신하도록 구성되는 안테나일 수도 있다. 다른 실시형태에서, 송신/수신 엘리먼트(1922)는, 예를 들면, IR, UV, 또는 가시광 신호를 송신 및/또는 수신하도록 구성되는 방출기(emitter)/검출기일 수도 있다. 또 다른 실시형태에서, 송신/수신 엘리먼트(1922)는 RF 및 광 신호를 송신 및 수신하도록 구성될 수도 있다. 송신/수신 엘리먼트(1922)는 무선 신호의 임의의 조합을 송신 및/또는 수신하도록 구성될 수도 있다는 것을 알 수 있을 것이다.

또한, 송신/수신 엘리먼트(1922)가 도 19b에서 단일의 엘리먼트로서 묘사되지만, WTRU(1902)는 임의의 수의 송신/수신 엘리먼트(1922)를 포함할 수도 있다. 더 구체적으로는, WTRU(1902)는 MIMO 기술을 활용할 수도 있다. 따라서, 일 실시형태에서, WTRU(1902)는, 무선 인터페이스(1915/1916/1917)를 통해 무선 신호를 송신 및 수신하기 위한 두 개 이상의 송신/수신 엘리먼트(1922)(예를 들면, 다수의 안테나)를 포함할 수도 있다.

트랜스시버(1920)는, 송신/수신 엘리먼트(1922)에 의해 송신될 신호를 변조하도록 그리고 송신/수신 엘리먼트(1922)에 의해 수신되는 신호를 복조하도록 구성될 수도 있다. 위에서 언급된 바와 같이, WTRU(1902)는 다중 모드 성능을 가질 수도 있다. 따라서, 트랜스시버(1920)는, WTRU(1902)가, 예를 들면, UTRA 및 IEEE 802.11과 같은 다수의 RAT를 통해 통신하는 것을 가능하게 하기 위해, 다수의 트랜스시버를 포함할 수도 있다.

WTRU(1902)의 프로세서(1918)는, 스피커/마이크(1924), 키패드(1926), 및/또는 디스플레이/터치패드(1928)(예를 들면, 액정 디스플레이(liquid crystal display; LCD) 디스플레이 유닛 또는 유기 발광 다이오드(organic light- emitting diode; OLED) 디스플레이 유닛)에 커플링될 수도 있고, 그리고 이들로부터 유저 입력 데이터를 수신할 수도 있다. 프로세서(1918)는 유저 데이터를 스피커/마이크(1924), 키패드(1926), 및/또는 디스플레이/터치패드(1928)로 또한 출력할 수도 있다. 또한, 프로세서(1918)는, 비착탈식 메모리(1930) 및/또는 착탈식 메모리(1932)와 같은 임의의 타입의 적절한 메모리로부터의 정보에 액세스할 수도 있고, 그리고 그 임의의 타입의 적절한 메모리에 데이터를 저장할 수도 있다. 비착탈식 메모리(1930)는 랜덤 액세스 메모리(random-access memory; RAM), 리드 온리 메모리(read-only memory; ROM), 하드디스크, 또는 임의의 다른 타입의 메모리 스토리지 디바이스를 포함할 수도 있다. 착탈식 메모리(132)는 가입자 식별 모듈(subscriber identity module; SIM) 카드, 메모리 스틱, 시큐어 디지털(secure digital; SD) 메모리 카드 등등을 포함할 수도 있다. 다른 실시형태에서, 프로세서(1918)는, 서버 또는 가정용 컴퓨터(도시되지 않음)와 같은 WTRU(1902)에 물리적으로 위치되지 않는 메모리로부터의 정보에 액세스할 수도 있고, 그리고 그 메모리에 데이터를 저장할 수도 있다.

프로세서(1918)는 전원(1934)으로부터 전력을 수신할 수도 있고, WTRU(1902)의 다른 컴포넌트로 전력을 분배하도록 및/또는 그 전력을 제어하도록 구성될 수도 있다. 전원(1934)은 WTRU(1902)에 전력을 공급하기 위한 임의의 적절한 디바이스일 수도 있다. 예를 들면, 전원(1934)은 하나 이상의 드라이 셀 배터리(예를 들면, 니켈 카드뮴(NiCd), 니켈 아연(NiZn), 니켈 금속 수소(NiMH), 리튬 이온 등등), 솔라 셀, 연료 전지 등등을 포함할 수도 있다.

프로세서(1918)는, WTRU(1902)의 현재 위치에 관한 위치 정보(예를 들면, 경도 및 위도)를 제공하도록 구성될 수도 있는 GPS 칩셋(1936)에 또한 커플링될 수도 있다. 또한, GPS 칩셋(1936)으로부터의 정보 외에, 또는 그 정보 대신, WTRU(1902)는 무선 인터페이스(1915/1916/1917)를 통해 기지국(예를 들면, 기지국(1914a, 1914b))으로부터 위치 정보를 수신할 수도 있고/있거나 두 개 이상의 가까운 기지국으로부터 수신되고 있는 신호의 타이밍에 기초하여 그 위치를 결정할 수도 있다. WTRU(1902)는 한 실시형태와 여전히 일치하면서 임의의 적절한 위치 결정 방법을 통해 위치 정보를 획득할 수도 있다는 것을 알 수 있을 것이다.

프로세서(1918)는, 추가적인 피쳐, 기능성, 및/또는 유선 또는 무선 연결성을 제공하는 하나 이상의 소프트웨어 및/또는 하드웨어 모듈을 포함할 수도 있는 기타 주변장치(1938)에 추가로 커플링될 수도 있다. 예를 들면, 주변장치(1938)는 가속도계, 전자 콤파스, 위성 트랜스시버, (사진 및 비디오용의) 디지털 카메라, 범용 직렬 버스(universal serial bus; USB) 포트, 진동 디바이스, 텔레비전 트랜스시버, 핸즈프리 헤드셋, Bluetooth® 모듈, 주파수 변조(frequency modulated; FM) 라디오 유닛, 디지털 뮤직 플레이어, 미디어 플레이어, 비디오 게임 플레이어 모듈, 인터넷 브라우저 등등을 포함할 수도 있다.

도 19c는 한 실시형태에 따른 RAN(1903)과 코어 네트워크(1906)의 시스템 도면이다. 위에서 언급된 바와 같이, RAN(1903)은 무선 인터페이스(1915)를 통해 WTRU(1902a, 1902b, 1902c)와 통신하기 위해 UTRA 무선 기술을 활용할 수도 있다. RAN(1903)은 코어 네트워크(1906)와 또한 통신할 수도 있다. 도 19c에서 도시되는 바와 같이, RAN(1903)은, 무선 인터페이스(1915)를 통해 WTRU(1902a, 1902b, 1902c)와 통신하기 위한 하나 이상의 트랜스시버를 각각 포함할 수도 있는 노드 B(1940a, 1940b, 1940c)를 포함할 수도 있다. 노드 B(1940a, 1940b, 1940c) 각각은 RAN(1903) 내의 특정 셀(도시되지 않음)과 관련될 수도 있다. RAN(1903)은 RNC(1942a, 1942b)를 또한 포함할 수도 있다. RAN(1903)은, 한 실시형태와 여전히 일치하면서, 임의의 수의 노드 B 및 RNC를 포함할 수도 있다는 것을 알 수 있을 것이다.

도 19c에서 도시되는 바와 같이, 노드 B(1940a, 1940b)는 RNC(1942a)와 통신할 수도 있다. 추가적으로, 노드 B(1940c)는 RNC(1942b)와 통신할 수도 있다. 노드 B(1940a, 1940b, 1940c)는 Iub 인터페이스를 통해 각각의 RNC(1942a, 1942b)와 통신할 수도 있다. RNC(1942a, 1942b)는 다른 Iur 인터페이스를 통해 서로 통신할 수도 있다. RNC(142a, 142b)의 각각은, 자신이 연결되는 각각의 노드 B(1940a, 1940b, 1940c)를 제어하도록 구성될 수도 있다. 또한, RNC(1942a, 1942b)의 각각은 다른 기능성, 예컨대 외부 루프 전력 제어, 부하 제어, 수락 제어(admission control), 패킷 스케줄링, 핸드오버 제어, 매크로다이버시티, 보안 기능, 데이터 암호화 등등을 수행하거나 지원하도록 구성될 수도 있다.

도 19c에서 도시되는 코어 네트워크(1906)는 미디어 게이트웨이(media gateway; MGW)(1944), 모바일 스위칭 센터(mobile switching center; MSG)(1946), 서빙 GPRS 지원 노드(serving GPRS support node; SGSN)(1948), 및/또는 게이트웨이 GPRS 지원 노드(gateway GPRS support node; GGSN)(1950)를 포함할 수도 있다. 상기 엘리먼트의 각각이 코어 네트워크(1906)의 일부로서 묘사되지만, 이들 엘리먼트 중 임의의 하나는 코어 네트워크 오퍼레이터 이외의 엔티티에 의해 소유될 수도 있고 및/또는 그 엔티티에 의해 동작될 수도 있다는 것을 알 수 있을 것이다.

RAN(1903)에서의 RNC(1942a)는 IuCS 인터페이스를 통해 코어 네트워크(1906)의 MSC(1946)에 연결될 수도 있다. MSC(1946)는 MGW(1944)에 연결될 수도 있다. MSC(1946) 및 MGW(1944)는, WTRU(1902a, 1902b, 1902c)와 전통적인 지상 회선(land-line) 통신 디바이스 사이의 통신을 용이하게 하기 위해, PSTN(1908)과 같은 회선 교환 네트워크에 대한 액세스를 WTRU(1902a, 1902b, 1902c)에게 제공할 수도 있다.

RAN(103)에서의 RNC(142a)는 IuPS 인터페이스를 통해 코어 네트워크(1906)의 SGSN(1948)에 또한 연결될 수도 있다. SGSN(1948)은 GGSN(1950)에 연결될 수도 있다. SGSN(1948) 및 GGSN(1950)은, WTRU(1902a, 1902b, 1902c)와 IP 대응 디바이스(IP-enabled device) 사이의 통신을 용이하게 하기 위해, 패킷 교환 네트워크, 예컨대 인터넷(1910)에 대한 액세스를 WTRU(1902a, 1902b, 1902c)에게 제공할 수도 있다.

위에서 언급된 바와 같이, 코어 네트워크(1906)는 네트워크(1912)에 또한 연결될 수도 있는데, 네트워크(1912)는 다른 서비스 공급자에 의해 소유되고 및/또는 운영되는 다른 유선 또는 무선 네트워크를 포함할 수도 있다.

도 19d는 한 실시형태에 따른 RAN(1904)과 코어 네트워크(1907)의 시스템 도면이다. 위에서 언급된 바와 같이, RAN(1904)은 무선 인터페이스(1916)를 통해 WTRU(1902a, 1902b, 1902c)와 통신하기 위해 E-UTRA 무선 기술을 활용할 수도 있다. RAN(1904)은 코어 네트워크(1907)와 또한 통신할 수도 있다.

RAN(1904)은 eNode B(1960a, 1960b, 19960c)를 포함할 수도 있지만, RAN(1904)은 한 실시형태와 여전히 일치하면서 임의의 수의 eNode B를 포함할 수도 있다는 것을 알 수 있을 것이다. eNode B(1960a, 1960b, 1960c) 각각은 무선 인터페이스(1916)를 통해 WTRU(1902a, 1902b, 1902c)와 통신하기 위한 하나 이상의 트랜스시버를 포함할 수도 있다. 일 실시형태에서, eNode B(1960a, 1960b, 1960c)는 MIMO 기술을 구현할 수도 있다. 따라서, eNode B(1960a)는, 예를 들면, WTRU(102a)로 무선 신호를 송신하고 그 WTRU(102a)로부터 무선 신호를 수신하기 위해 다수의 안테나를 사용할 수도 있다.

eNode B(1960a, 1960b, 1960c)의 각각은 특정 셀(도시되지 않음)과 관련될 수도 있고 무선 리소스 관리 결정, 핸드오버 결정, 업링크 및/또는 다운링크에서의 유저의 스케줄링 등등을 핸들링하도록 구성될 수도 있다. 도 19d에서 도시되는 바와 같이, eNode B(1960a, 1960b, 1960c)는 X2 인터페이스를 통해 서로 통신할 수도 있다.

도 19d에서 도시되는 코어 네트워크(1907)는 이동성 관리 엔티티 게이트웨이(mobility management entity gateway; MME)(1962), 서빙 게이트웨이(1964), 및 패킷 데이터 네트워크(packet data network; PDN) 게이트웨이(1966)를 포함할 수도 있다. 상기 엘리먼트의 각각이 코어 네트워크(1907)의 일부로서 묘사되지만, 이들 엘리먼트 중 임의의 하나는 코어 네트워크 오퍼레이터 이외의 엔티티에 의해 소유될 수도 있고 및/또는 그 엔티티에 의해 동작될 수도 있다는 것을 알 수 있을 것이다.

MME(1962)는 S1 인터페이스를 통해 RAN(1904) 내의 eNode B(1960a, 1960b, 1960c)의 각각에 연결될 수도 있고 제어 노드로서 기능할 수도 있다. 예를 들면, MME(1962)는 WTRU(1902a, 1902b, 1902c)의 유저를 인증하는 것, 베어러 활성/비활성, WTRU(1902a, 1902b, 1902c)의 초기 연결 동안 특정 서빙 게이트웨이를 선택하는 것 등등을 담당할 수도 있다. MME(1962)는, GSM 또는 WCDMA와 같은 다른 무선 기술을 활용하는 다른 RAN(도시되지 않음)과 RAN(1904) 사이를 스위칭하는 제어 플레인 기능을 또한 제공할 수도 있다.

서빙 게이트웨이(1964)는 S1 인터페이스를 통해 RAN(1904) 내의 eNode B(1960a, 1960b, 1960c)의 각각에 연결될 수도 있다. 서빙 게이트웨이(164)는 일반적으로 유저 데이터 패킷을, WTRU(1902a, 1902b, 1902c)로/로부터 라우팅하고 포워딩할 수도 있다. 서빙 게이트웨이(1964)는 다른 기능, 예컨대 eNode B간 핸드오버 동안 유저 플레인을 앵커링하는 것, 다운링크 데이터가 WTRU(1902a, 1902b, 1902c)에 대해 이용가능할 때 페이징을 트리거하는 것, WTRU(1902a, 1902b, 1902c)의 상황(context)를 관리하고 저장하는 것 등등을 또한 수행할 수도 있다.

서빙 게이트웨이(1964)는, WTRU(1902a, 1902b, 1902c)와 IP 대응 디바이스 사이의 통신을 용이하게 하기 위해, 인터넷(1910)과 같은 패킷 교환 네트워크에 대한 액세스를 WTRU(1902a, 1902b, 1902c)에게 제공할 수도 있는 PDN 게이트웨이(1966)에 또한 연결될 수도 있다.

코어 네트워크(1907)는 다른 네트워크와의 통신을 용이하게 할 수도 있다. 예를 들면, 게이트웨이(1907)는, WTRU(1902a, 1902b, 1902c)와 전통적인 지상 회선 통신 디바이스 사이의 통신을 용이하게 하기 위해, PSTN(1908)과 같은 회선 교환 네트워크에 대한 액세스를 WTRU(1902a, 1902b, 1902c)에게 제공할 수도 있다. 예를 들면, 코어 네트워크(1907)는, 코어 네트워크(1907)와 PSTN(108) 사이의 인터페이스로서 기능하는 IP 게이트웨이(예를 들면, IP 멀티미디어 서브시스템(IP multimedia subsystem; IMS) 서버)를 포함할 수도 있거나, 또는 그 IP 게이트웨이와 통신할 수도 있다. 또한, 코어 네트워크(1907)는, 다른 서비스 공급자에 의해 소유되는 및/또는 다른 서비스 공급자에 의해 운영되는 다른 유선 또는 무선 네트워크를 포함할 수도 있는 네트워크(1912)에 대한 액세스를 WTRU(1902a, 1902b, 1902c)에게 제공할 수도 있다.

도 19e는 한 실시형태에 따른 RAN(1905)과 코어 네트워크(1909)의 시스템 도면이다. RAN(1905)은, 무선 인터페이스(1917)를 통해 WTRU(1902a, 1902b, 1902c)와 통신하기 위해 IEEE 802.16 무선 기술을 활용하는 액세스 서비스 네트워크(access service network; ASN)일 수도 있다. 하기에 더 논의되는 바와 같이, WTRU(1902a, 1902b, 1902c), RAN(1905), 및 코어 네트워크(1909)의 상이한 기능적 엔티티 사이의 통신 링크는 참조 포인트(reference point)으로서 정의될 수도 있다.

도 19e에서 도시되는 바와 같이, RAN(1905)은 기지국1980a, 1980b, 1980c) 및 ASN 게이트웨이(1982)를 포함할 수도 있지만, RAN(1905)은, 실시형태와 여전히 일치하면서, 임의의 수의 기지국 및 ASN 게이트웨이를 포함할 수도 있다는 것을 알 수 있을 것이다. 기지국(1980a, 1980b, 1980c) 각각은, RAN(1905) 내의 특정 셀(도시되지 않음)과 관련될 수도 있고 무선 인터페이스(1917)를 통해 WTRU(1902a, 1902b, 1902c)와 통신하기 위한 하나 이상의 트랜스시버를 포함할 수도 있다. 일 실시형태에서, 기지국(1980a, 1980b, 1980c)은 MIMO 기술을 구현할 수도 있다. 따라서, 기지국(1980a)은, 예를 들면, WTRU(1902a)로 무선 신호를 송신하고 그 WTRU(1902a)로부터 무선 신호를 수신하기 위해 다수의 안테나를 사용할 수도 있다. 또한, 기지국(1980a, 1980b, 1980c)은, 핸드오프 트리거링(handoff triggering), 터널 확립, 무선 리소스 관리, 트래픽 분류, 서비스 품질(quality of service; QoS) 정책 강화(enforcement) 등등과 같은 이동성 관리 기능을 제공할 수도 있다. ASN 게이트웨이(1982)는 트래픽 애그리게이션 포인트(traffic aggregation point)로서 기능할 수도 있으며 페이징, 가입자 프로파일의 캐싱, 코어 네트워크(1909)로의 라우팅 등등을 담당할 수도 있다.

WTRU(1902a, 1902b, 1902c)와 RAN(1905) 사이의 무선 인터페이스(1917)는, IEEE 802.16 명세(specification)를 구현하는 R1 참조 포인트로서 정의될 수도 있다. 또한, WTRU(1902a, 1902b, 1902c)의 각각은 코어 네트워크(1909)와의 논리 인터페이스(logical interface)(도시되지 않음)를 확립할 수도 있다. WTRU(1902a, 1902b, 1902c)와 코어 네트워크(1909) 사이의 논리 인터페이스는 R2 참조 포인트로서 정의될 수도 있는데, R2 참조 포인트는 인증(authentication), 인가(authorization), IP 호스트 구성 관리, 및/또는 이동성 관리를 위해 사용될 수도 있다.

기지국(1980a, 1980b, 1980c) 각각의 사이의 통신 링크는, WTRU 핸드오버 및 기지국 사이의 데이터의 전송을 용이하게 하기 위한 프로토콜을 포함하는 R8 참조 포인트로서 정의될 수도 있다. 기지국(180a, 1980b, 1980c)과 ASN 게이트웨이(1982) 사이의 통신 링크는 R6 참조 포인트로서 정의될 수도 있다. R6 참조 포인트는 WTRU(1902a, 1902b, 1902c)의 각각과 관련되는 이동성 이벤트에 기초하여 이동성 관리를 용이하게 하기 위한 프로토콜을 포함할 수도 있다.

도 19e에서 도시되는 바와 같이, RAN(1905)은 코어 네트워크(1909)에 연결될 수도 있다. RAN(1905)과 코어 네트워크(1909) 사이의 통신 링크는, 예를 들면, 데이터 전송 및 이동성 관리 성능을 용이하게 하기 위한 프로토콜을 포함하는 R3 참조 포인트로서 정의될 수도 있다. 코어 네트워크(1909)는 모바일 IP 홈 에이전트(mobile IP home agent; MIP-HA)(1984), 인증, 인가, 어카운팅(authentication, authorization, accounting; AAA) 서버(1986), 및 게이트웨이(1988)를 포함할 수도 있다. 상기 엘리먼트의 각각이 코어 네트워크(1909)의 일부로서 묘사되지만, 이들 엘리먼트 중 임의의 하나는 코어 네트워크 오퍼레이터 이외의 엔티티에 의해 소유될 수도 있고 및/또는 그 엔티티에 의해 동작될 수도 있다는 것을 알 수 있을 것이다.

MIP-HA는 IP 어드레스 관리를 담당할 수도 있고, WTRU(1902a, 1902b, 1902c)가 상이한 ASN 및/또는 상이한 코어 네트워크 사이에서 로밍하는 것을 가능하게 할 수도 있다. MIP-HA(1984)는, WTRU(1902a, 1902b, 1902c)와 IP 대응 디바이스 사이의 통신을 용이하게 하기 위해, 패킷 교환 네트워크, 예컨대 인터넷(1910)에 대한 액세스를 WTRU(1902a, 1902b, 1902c)에게 제공할 수도 있다. AAA 서버(1986)는 유저 인증 및 유저 서비스 지원을 담당할 수도 있다. 게이트웨이(1988)는 다른 네트워크와의 상호연동(interworking)을 용이하게 할 수도 있다. 예를 들면, 게이트웨이(1988)는, WTRU(1902a, 1902b, 1902c)와 전통적인 지상 회선 통신 디바이스 사이의 통신을 용이하게 하기 위해, PSTN(1908)과 같은 회선 교환 네트워크에 대한 액세스를 WTRU(1902a, 1902b, 1902c)에게 제공할 수도 있다. 또한, 게이트웨이(1988)는, 다른 서비스 공급자에 의해 소유되는 및/또는 다른 서비스 공급자에 의해 운영되는 다른 유선 또는 무선 네트워크를 포함할 수도 있는 네트워크(1912)에 대한 액세스를 WTRU(1902a, 1902b, 1902c)에게 제공할 수도 있다.

도 19e에서 도시되지는 않지만, RAN(1905)은 다른 ASN에 연결될 수도 있고 코어 네트워크(1909)는 다른 코어 네트워크에 연결될 수도 있다는 것을 알 수 있을 것이다. RAN(1905)과 다른 ASN 사이의 통신 링크는 R4 참조 포인트로서 정의될 수도 있는데, R4 참조 포인트는 RAN(1905)과 다른 ASN 사이에서 WTRU(1902a, 1902b, 1902c)의 이동성을 조정하기(coordinating) 위한 프로토콜을 포함할 수도 있다. 코어 네트워크(1909)와 다른 코어 네트워크 사이의 통신 링크는 R5 참조로서 정의될 수도 있는데, R5 참조는 홈 코어 네트워크와 방문 코어 네트워크(visited core network) 사이에서의 상호연동을 용이하게 하기 위한 프로토콜을 포함할 수도 있다.

피쳐 및 엘리먼트가 특정 조합으로 위에서 설명되었지만, 기술분야에서 통상의 지식을 가진 자라면, 각각의 피쳐 또는 엘리먼트는 단독으로 사용될 수 있거나 또는 다른 피쳐 및 엘리먼트와의 임의의 조합으로 사용될 수 있다는 것을 알 수 있을 것이다. 또한, 본원에서 설명되는 방법은, 컴퓨터 또는 프로세서에 의한 실행을 위해 컴퓨터 판독가능 매체에 통합되는 컴퓨터 프로그램, 소프트웨어, 또는 펌웨어로 구현될 수도 있다. 컴퓨터 판독가능 매체의 예는 전자 신호(유선 또는 무선 연결을 통해 송신됨) 및 컴퓨터 판독가능 저장 매체를 포함한다. 컴퓨터 판독가능 저장 매체의 예는, 리드 온리 메모리(ROM), 랜덤 액세스 메모리(RAM), 레지스터, 캐시 메모리, 반도체 메모리 디바이스, 내장 하드 디스크 및 착탈식 디스크와 같은 자기 매체, 광자기 매체, 및 CD-ROM 디스크 및 디지털 다기능 디스크(digital versatile disk; DVD)와 같은 광학 매체를 포함하지만, 이들에 한정되는 것은 아니다. 프로세서는, 소프트웨어와 관련하여, WTRU, UE, 단말, 기지국, RNC, 또는 임의의 호스트 컴퓨터에서 사용하기 위한 무선 주파수 트랜스시버를 구현하도록 사용될 수도 있다.

Claims

비디오 코딩 디바이스에 있어서,
프로세서를 포함하고,
상기 프로세서는,
비디오 입력에서 복수의 픽쳐 중 제1 픽쳐에 대한 복수의 에러 은닉 모드(error concealment mode)를 평가(evaluate)하고;
상기 제1 픽쳐에 대한 복수의 에러 은닉 모드로부터 에러 은닉 모드를 선택하며;
상기 제1 픽쳐에 대해 선택된 에러 은닉 모드를 비디오 비트스트림에서 시그널링하도록 구성되는, 비디오 코딩 디바이스.
제1항에 있어서, 상기 프로세서는,
상기 비디오 입력에서 상기 복수의 픽쳐 중 제2 픽쳐에 대한 복수의 에러 은닉 모드를 평가하고;
상기 제2 픽쳐에 대한 복수의 에러 은닉 모드로부터 에러 은닉 모드를 선택하며;
상기 제2 픽쳐에 대해 선택된 에러 은닉 모드 및 상기 제1 픽쳐에 대해 선택된 에러 은닉 모드를 상기 비디오 비트스트림에서 시그널링하도록 구성되고,
상기 제1 픽쳐에 대해 선택된 에러 은닉 모드는 상기 제2 픽쳐에 대해 선택된 에러 은닉 모드와는 상이한, 비디오 코딩 디바이스.
제1항에 있어서, 상기 프로세서는,
제2 픽쳐에 대한 복수의 에러 은닉 모드를 평가하고;
상기 제2 픽쳐에 대한 복수의 에러 은닉 모드로부터 에러 은닉 모드를 선택하며;
상기 제2 픽쳐에 대해 선택된 에러 은닉 모드 및 상기 제1 픽쳐에 대해 선택된 에러 은닉 모드를 상기 비디오 비트스트림에서 시그널링하도록 구성되고,
상기 제1 픽쳐에 대해 선택된 에러 은닉 모드는 상기 제2 픽쳐에 대해 선택된 에러 은닉 모드와 동일한, 비디오 코딩 디바이스.
제1항에 있어서,
상기 프로세서는 상기 제1 픽쳐와 상기 제1 픽쳐의 에러 은닉 버전(error concealed version) 사이의 디스패리티(disparity)에 기초하여 에러 은닉 모드를 선택하도록 구성되고, 상기 프로세서는 가장 작게 계산된 디스패리티를 갖는 에러 은닉 모드를 선택하는, 비디오 코딩 디바이스.
제4항에 있어서,
상기 디스패리티는 상기 제1 픽쳐와 상기 선택된 EC 모드를 사용하여 결정되는 상기 제1 픽쳐의 상기 에러 은닉 버전 사이의 절대 차의 합(sum of absolute differences; SAD) 또는 구조적 유사도(structural similarity; SSIM) 중 하나 이상에 따라 측정되는, 비디오 코딩 디바이스.
제4항에 있어서,
상기 디스패리티는 상기 제1 픽쳐의 하나 이상의 컬러 성분을 사용하여 측정되는, 비디오 코딩 디바이스.
제1항에 있어서,
상기 복수의 에러 은닉 모드는, 픽쳐 복제(Picture Copy; PC), 시간적 다이렉트(Temporal Direct; TD), 모션 복제(Motion Copy; MC), 베이스 레이어 스킵(Base Layer Skip)(BLSkip; 모션 & 잔차 업샘플링), 재구성된 BL 업샘플링(Reconstructed BL upsampling; RU), E-ILR 모드1, 또는 E-ILR 모드2 중 적어도 두 개를 포함하는, 비디오 코딩 디바이스.
제1항에 있어서,
상기 제1 픽쳐에 대해 선택된 에러 은닉 모드를 상기 비디오 비트스트림에서 시그널링하는 것은, 상기 비디오 비트스트림의 보충 향상 정보(supplemental enhancement information; SEI) 메시지, MPEG 미디어 전송(MMT) 전송 패킷, 또는 MMT 에러 은닉 모드(error concealment mode; ECM) 메시지에서 상기 에러 은닉 모드를 시그널링하는 것을 포함하는, 비디오 코딩 디바이스.
제1항에 있어서, 상기 프로세서는,
상기 복수의 픽쳐의 각각의 픽쳐에 대한 두 개 이상의 에러 은닉 모드를 평가하고;
상기 복수의 픽쳐를 제1 픽쳐 서브셋 및 제2 픽쳐 서브셋으로 분할하고;
상기 복수의 픽쳐의 각각의 픽쳐에 대한 상기 두 개 이상의 평가된 에러 은닉 모드로부터 에러 은닉 모드를 선택하며 - 상기 제1 픽쳐 서브셋에 대해 선택된 에러 은닉 모드는 동일하고 상기 제2 픽쳐 서브셋에 대해 선택된 에러 은닉 모드는 동일함 - ;
상기 제1 픽쳐 서브셋에 대해 선택된 에러 은닉 모드 및 상기 제2 픽쳐 서브셋에 대해 선택된 에러 은닉 모드를 상기 비디오 비트스트림에서 시그널링하도록 구성되는, 비디오 코딩 디바이스.
제1항에 있어서, 상기 프로세서는,
상기 비디오 입력의 상위 레이어(higher layer) - 상기 상위 레이어는 상기 제1 픽쳐를 포함하는 레이어보다 상위임 - 가 존재한다는 것을 결정하고;
상기 비디오 입력의 상위 레이어에서 복수의 픽쳐로부터 픽쳐를 선택하고;
상기 상위 레이어의 상기 선택된 픽쳐에 대한 두 개 이상의 에러 은닉 모드를 평가하고;
상기 상위 레이어로부터의 상기 선택된 픽쳐에 대한 두 개 이상의 평가된 에러 은닉 모드로부터 에러 은닉 모드를 선택하며;
상기 상위 레이어의 상기 선택된 픽쳐에 대해 선택된 에러 은닉 모드를, 상기 제1 픽쳐에 대한 에러 은닉 모드와 함께 상기 비디오 비트스트림에서 시그널링하도록 구성되는, 비디오 코딩 디바이스.
비디오 코딩 디바이스에 있어서,
프로세서를 포함하고,
상기 프로세서는,
복수의 픽쳐를 포함하는 비디오 비트스트림을 수신하고;
제1 픽쳐에 대한 에러 은닉 모드를 상기 비디오 비트스트림에서 수신하고;
상기 제1 픽쳐가 유실(lost)되어 있다고 결정하며;
상기 제1 픽쳐에 대한 에러 은닉을 수행하도록 구성되고,
에러 은닉은 상기 제1 픽쳐에 대해 수신된 에러 은닉 모드를 사용하여 수행되는, 비디오 코딩 디바이스.
제11항에 있어서, 상기 프로세서는,
제2 픽쳐에 대한 에러 은닉 모드를 상기 비디오 비트스트림에서 수신하고;
상기 제2 픽쳐가 유실되어 있다고 결정하며;
상기 제2 픽쳐에 대한 에러 은닉을 수행하도록 구성되고,
에러 은닉은 상기 제2 픽쳐에 대해 수신된 에러 은닉 모드를 사용하여 수행되는, 비디오 코딩 디바이스.
제12항에 있어서,
상기 제2 픽쳐에 대한 에러 은닉 모드는 상기 제1 픽쳐에 대한 에러 은닉 모드와 동일한, 비디오 코딩 디바이스.
제12항에 있어서,
상기 제2 픽쳐에 대한 에러 은닉 모드는 상기 제1 픽쳐에 대한 에러 은닉 모드와는 상이한, 비디오 코딩 디바이스.
비디오 코딩 디바이스에 있어서,
프로세서를 포함하고,
상기 프로세서는,
레이어에 대한 두 개 이상의 에러 은닉 모드를 평가하고;
상기 두 개 이상의 에러 은닉 모드로부터 에러 은닉 모드를 선택하며;
상기 선택된 에러 은닉 모드를 상기 레이어에 대한 비디오 비트스트림에서 시그널링하도록 구성되는, 비디오 코딩 디바이스.
제15항에 있어서,
상기 두 개 이상의 에러 은닉 모드는, 픽쳐 복제(PC), 시간적 다이렉트(TD), 모션 복제(MC), 베이스 레이어 스킵(BLSkip; 모션 & 잔차 업샘플링), 재구성된 BL 업샘플링(RU), E-ILR 모드1, 또는 E-ILR 모드2 중 적어도 두 개를 포함하는, 비디오 코딩 디바이스.
비디오 코딩 방법에 있어서,
비디오 입력에서 복수의 픽쳐 중 제1 픽쳐에 대한 복수의 에러 은닉 모드를 평가하는 단계;
상기 제1 픽쳐에 대한 복수의 에러 은닉 모드로부터 에러 은닉 모드를 선택하는 단계; 및
상기 제1 픽쳐에 대해 선택된 에러 은닉 모드를 비디오 비트스트림에서 시그널링하는 단계를 포함하는, 비디오 코딩 방법.
제17항에 있어서,
상기 복수의 픽쳐 중 제2 픽쳐에 대한 복수의 에러 은닉 모드를 평가하는 단계;
상기 제2 픽쳐에 대한 복수의 에러 은닉 모드로부터 에러 은닉 모드를 선택하는 단계; 및
상기 제2 픽쳐에 대해 선택된 에러 은닉 모드 및 상기 제1 픽쳐에 대해 선택된 에러 은닉 모드를 상기 비디오 비트스트림에서 시그널링하는 단계를 더 포함하고,
상기 제1 픽쳐에 대해 선택된 에러 은닉 모드는 상기 제2 픽쳐에 대해 선택된 에러 은닉 모드와는 상이한, 비디오 코딩 방법.
제17항에 있어서,
제2 픽쳐에 대한 복수의 에러 은닉 모드를 평가하는 단계;
상기 제2 픽쳐에 대한 복수의 에러 은닉 모드로부터 에러 은닉 모드를 선택하는 단계; 및
상기 제2 픽쳐에 대해 선택된 에러 은닉 모드 및 상기 제1 픽쳐에 대해 선택된 에러 은닉 모드를 상기 비디오 비트스트림에서 시그널링하는 단계를 더 포함하고,
상기 제1 픽쳐에 대해 선택된 에러 은닉 모드는 상기 제2 픽쳐에 대해 선택된 에러 은닉 모드와 동일한, 비디오 코딩 방법.
제17항에 있어서,
상기 제1 픽쳐와 상기 제1 픽쳐의 에러 은닉 버전 사이의 디스패리티에 기초하여 에러 은닉 모드를 선택하는 단계, 및 가장 작게 계산된 디스패리티를 갖는 에러 은닉 모드를 선택하는 단계를 더 포함하는, 비디오 코딩 방법.
제20항에 있어서,
상기 디스패리티는 상기 제1 픽쳐와 상기 선택된 EC 모드를 사용하여 결정되는 상기 제1 픽쳐의 상기 에러 은닉 버전 사이의 절대 차의 합(SAD) 또는 구조적 유사도(SSIM) 중 하나 이상에 따라 측정되는, 비디오 코딩 방법.
제20항에 있어서,
상기 디스패리티는 상기 제1 픽쳐의 하나 이상의 컬러 성분을 사용하여 측정되는, 비디오 코딩 방법.
제17항에 있어서,
상기 복수의 에러 은닉 모드는, 픽쳐 복제(Picture Copy; PC), 시간적 다이렉트(Temporal Direct; TD), 모션 복제(Motion Copy; MC), 베이스 레이어 스킵(Base Layer Skip)(BLSkip; 모션 & 잔차 업샘플링), 재구성된 BL 업샘플링(Reconstructed BL upsampling; RU), E-ILR 모드1, 또는 E-ILR 모드2 중 적어도 두 개를 포함하는, 비디오 코딩 방법.
제17항에 있어서,
상기 비디오 비트스트림의 보충 향상 정보(SEI) 메시지, MPEG 미디어 전송(MMT) 전송 패킷, 또는 MMT 에러 은닉 모드(ECM) 메시지에서 상기 에러 은닉 모드를 시그널링하는 단계를 더 포함하는, 비디오 코딩 방법.
제17항에 있어서,
상기 복수의 픽쳐의 각각의 픽쳐에 대한 두 개 이상의 에러 은닉 모드를 평가하는 단계;
상기 복수의 픽쳐를 제1 픽쳐 서브셋 및 제2 픽쳐 서브셋으로 분할하는 단계;
상기 복수의 픽쳐의 각각의 픽쳐에 대한 상기 두 개 이상의 평가된 에러 은닉 모드로부터 에러 은닉 모드를 선택하는 단계로서, 상기 제1 픽쳐 서브셋에 대해 선택된 에러 은닉 모드는 동일하고 상기 제2 픽쳐 서브셋에 대해 선택된 에러 은닉 모드는 동일한 것인, 상기 두 개 이상의 평가된 에러 은닉 모드로부터 에러 은닉 모드를 선택하는 단계; 및
상기 제1 픽쳐 서브셋에 대해 선택된 에러 은닉 모드 및 상기 제2 픽쳐 서브셋에 대해 선택된 에러 은닉 모드를 상기 비디오 비트스트림에서 시그널링하는 단계를 더 포함하는, 비디오 코딩 방법.
제17항에 있어서,
상기 비디오 입력의 상위 레이어 - 상기 상위 레이어는 상기 제1 픽쳐를 포함하는 레이어보다 상위임 - 가 존재한다는 것을 결정하는 단계;
상기 비디오 입력의 상위 레이어에서 복수의 픽쳐로부터 픽쳐를 선택하는 단계;
상기 상위 레이어의 상기 선택된 픽쳐에 대한 두 개 이상의 에러 은닉 모드를 평가하는 단계;
상기 상위 레이어로부터의 상기 선택된 픽쳐에 대한 두 개 이상의 평가된 에러 은닉 모드로부터 에러 은닉 모드를 선택하는 단계; 및
상기 상위 레이어의 상기 선택된 픽쳐에 대해 선택된 에러 은닉 모드를, 상기 제1 픽쳐에 대한 에러 은닉 모드와 함께 상기 비디오 비트스트림에서 시그널링하는 단계를 더 포함하는, 비디오 코딩 방법.
비디오 코딩 방법에 있어서,
복수의 픽쳐를 포함하는 비디오 비트스트림을 수신하는 단계;
제1 픽쳐에 대한 에러 은닉 모드를 상기 비디오 비트스트림에서 수신하는 단계;
상기 제1 픽쳐가 유실되어 있다고 결정하는 단계; 및
상기 제1 픽쳐에 대한 에러 은닉을 수행하는 단계를 포함하고,
에러 은닉은 상기 제1 픽쳐에 대해 수신된 에러 은닉 모드를 사용하여 수행되는, 비디오 코딩 방법.
제27항에 있어서,
제2 픽쳐에 대한 에러 은닉 모드를 상기 비디오 비트스트림에서 수신하는 단계;
상기 제2 픽쳐가 유실되어 있다고 결정하는 단계; 및
상기 제2 픽쳐에 대한 에러 은닉을 수행하는 단계를 더 포함하고,
에러 은닉은 상기 제2 픽쳐에 대해 수신된 에러 은닉 모드를 사용하여 수행되는, 비디오 코딩 방법.
제28항에 있어서,
상기 제2 픽쳐에 대한 에러 은닉 모드는 상기 제1 픽쳐에 대한 에러 은닉 모드와 동일한, 비디오 코딩 방법.
제28항에 있어서,
상기 제2 픽쳐에 대한 에러 은닉 모드는 상기 제1 픽쳐에 대한 에러 은닉 모드와는 상이한, 비디오 코딩 방법.
비디오 코딩 방법에 있어서,
레이어에 대한 두 개 이상의 에러 은닉 모드를 평가하는 단계;
상기 두 개 이상의 에러 은닉 모드로부터 에러 은닉 모드를 선택하는 단계; 및
상기 선택된 에러 은닉 모드를 상기 레이어에 대한 비디오 비트스트림에서 시그널링하는 단계를 포함하는, 비디오 코딩 방법.
제31항에 있어서,
상기 두 개 이상의 에러 은닉 모드는, 픽쳐 복제(PC), 시간적 다이렉트(TD), 모션 복제(MC), 베이스 레이어 스킵(BLSkip; 모션 & 잔차 업샘플링), 재구성된 BL 업샘플링(RU), E-ILR 모드1, 또는 E-ILR 모드2 중 적어도 두 개를 포함하는, 비디오 코딩 방법.